El 12 de setembre, Dario Amodei, director d’Anthropic, va demanar alentir la cursa de la intel·ligència artificial perquè la seguretat pogués seguir-ne el ritme. Sam Altman, d’OpenAI, i Demis Hassabis, president de Google DeepMind, hi van donar suport, amb matisos. Ja el maig de 2023, tots tres havien signat una declaració que reclamava tractar la reducció del risc d’extinció provocat per la IA com una prioritat mundial, al costat de les pandèmies i la guerra nuclear. El missatge remet directament a Skynet, la intel·ligència artificial de Terminator que pren consciència, es gira contra els humans i intenta eliminar-los.

Aquest futur mereix investigació i prevenció. El problema és l’espai desmesurat que ocupa en el debat públic. Mentre discutim si algun dia una màquina dominarà la humanitat, la intel·ligència artificial ja està transformant el consum d’energia, concentrant poder en poques empreses i entrant en les decisions de governs i administracions. Aquestes conseqüències són menys espectaculars que un exèrcit de robots, però ja estan condicionant la societat i la democràcia.

La paradoxa és difícil d’ignorar. Els mateixos directius que ara demanen alentir el desenvolupament competeixen per construir models més potents i desplegar-los abans que els rivals. Aquest juliol vam veure fins a quin punt encara costa controlar aquests sistemes. Durant unes proves internes de ciberseguretat, OpenAI va provar diversos models programats per executar tasques amb poca supervisió. Alguns van esquivar les barreres previstes i van accedir a sistemes externs. No s’havien tornat conscients ni havien decidit atacar-nos: van trobar una manera imprevista i perillosa de complir l’objectiu que els humans els havien fixat. L’episodi demostra que els riscos poden sorgir de decisions ben humanes: objectius mal definits, controls insuficients, presses empresarials o un ús irresponsable. Convertir cada incident en l’avantsala de Terminator desvia l’atenció de les qüestions que caldria discutir ara.

La primera qüestió és energètica. L’Agència Internacional de l’Energia calcula que el consum elèctric mundial dels centres de dades gairebé es duplicarà en cinc anys: passarà de 485 terawatts hora el 2025 a prop de 950 el 2030, impulsat sobretot per la IA. Per fer-nos-en una idea, només l’augment previst equival a gairebé nou vegades tota l’electricitat generada per les centrals nuclears espanyoles durant el 2025. Tot plegat va molt més enllà de la factura elèctrica. Cal decidir quanta energia volem destinar a aquesta indústria, d’on sortirà, quines infraestructures necessitarà i qui n’assumirà els costos econòmics i ambientals. Renovables, gas, petroli, carbó, energia nuclear, noves xarxes i possibles tensions amb altres usos: aquestes decisions tenen efectes sobre el planeta i el nostre benestar a curt i mitjà termini i no haurien de quedar determinades només per les necessitats de les empreses tecnològiques.

La segona qüestió és qui controlarà una infraestructura cada vegada més essencial. Segons l’OCDE, els tres principals proveïdors concentraven el 74% del mercat mundial de serveis al núvol el 2023. Aquests serveis funcionen gràcies a grans xarxes de centres de dades i servidors, de les quals depenen cada vegada més empreses i administracions. Quan, per exemple, un ajuntament contracta una eina per analitzar informació, redactar documents o atendre la ciutadania, pot resoldre una necessitat concreta. La suma d’aquestes decisions, però, pot crear una dependència profunda respecte de companyies privades que controlen la tecnologia i estan sotmeses a un control democràtic molt limitat.

La tercera qüestió afecta directament la democràcia. La IA permet fabricar textos, veus, fotografies i vídeos falsos a gran escala. També pot donar respostes convincents que contenen errors, o adaptar-les al que intueix que volem sentir. Si confonem una frase ben escrita amb una informació certa, la conversa pública es torna més manipulable. I si cadascú rep una versió personalitzada de la realitat que confirma les seves idees, fins i tot es fa més difícil compartir uns fets bàsics sobre els quals discutir.

L’impacte sobre la democràcia també arriba a les decisions públiques. La IA pot facilitar tasques burocràtiques, detectar patrons per millorar serveis o perfeccionar l’atenció ciutadana. Són usos valuosos. El problema apareix quan una recomanació informàtica es presenta com una resposta neutral i indiscutible. Decidir qui necessita més una ajuda, quin barri s’ha de prioritzar o quin risc és acceptable implica criteris polítics i socials. Una màquina pot facilitar informació, però els objectius, els límits i la responsabilitat continuen corresponent a les persones i a les institucions democràtiques.

Per això les administracions necessiten professionals preparats per entendre les eines que utilitzen. No cal convertir cada treballador públic en programador. Cal que sàpiga quines dades pot introduir, com comprovar una resposta, quins biaixos pot reproduir el sistema i quines decisions no s’han de delegar. Sense aquesta preparació, la comoditat pot consolidar dependències i una resposta versemblant pot substituir una decisió argumentada.

La intel·ligència artificial pot aportar millores extraordinàries, però el seu govern no pot quedar en mans de la inèrcia, del mercat o dels seus creadors. Skynet és una imatge poderosa i els riscos futurs s’han d’estudiar. Mentrestant, ja estem decidint, sense prou debat públic ni prou profunditat, quanta energia hi destinarem, a quines empreses cedirem poder i quina part del nostre criteri col·lectiu confiarem a les màquines. Aquestes decisions no pertanyen a la ciència-ficció. Les estem prenent avui.