Harari adverteix contra la visió ingènua de les noves tecnologies: «La IA no és un estri, és un agent»

L'historiador i filòsof publica "Nexus", una història de les xarxes socials des de l'antiguitat, i assegura que "la bomba nuclear no pot decidir res ella sola, la Intel·ligència Artificial sí"

Yuval Noah Harari.
Yuval Noah Harari. | Cedida
16 de setembre de 2024, 19:48

La publicació de Sapiens, el 2011, i la seva posterior traducció a més de 60 llengües tres anys després, fa deu anys, va suposar el salt de l'autor, Yuval Noah Harari, al primer rengle del pensament contemporani. El llibre va ser un fenomen amb més de 45 milions de vendes. Després van venir Homo Deus i 21 lliçons per al segle XXI. Ara acaba de publicar Nexus (Edicions62), una visió de les xarxes d'informació des de l'antiguitat a la IA. Aquesta tarda, Harari ha presentat el llibre en una compareixença amb premsa organitzada per Debate i Edicions 62, que ha publicat l'obra en català. 

Nexus és un llibre d'història, però entenent-la com ho fa l'autor:  "La història, de fet, no és tant l'estudi del passat com l'estudi del canvi. Ens ensenya què continua igual, què canvia i com canvien les coses". D'aquí que Nexus és una anàlisi del món que ve a la llum del que ens ha dut fins aquí. És, sobretot, un advertiment. Com el que ha fet Harari en la presentació, en què ha fet una crida a "resistir la visió ingènua sobre la informació".  "Les noves tecnologies no són un instrument, són un agent", ha alertat.

Harari s'ha mostrat escèptic davant dels discursos optimistes sobre l'impacte positiu de les noves tecnologies. Aquests dies és a Washington i ha fet una al·lusió a la situació de crispació que viuen els Estats Units: "Com és que tenim una tecnologia tan sofisticada i, en canvi, no som capaços de parlar uns amb els altres?". "Hi ha una visió càndida que creu que la informació és en ella mateixa coneixement, però això no és cert. La major part d'informació que es genera és porqueria", ha assenyalat. "Si ens interessa la veritat, hem d'invertir en veritat". 

L'historiador i filòsof ha posat un exemple: "Una bomba nuclear suposa un poder ingent, però està en mans dels éssers humans. La bomba, com a tal, no pot decidir res. La IA, en canvi, pot prendre decisions per ella mateixa". La IA pot produir imatges i crear codis, ha explicat, però a més crearà una IA més potent. "La veritat, escriure un informe assenyat, costa molt. La ficció, en canvi, és barata".

"Sota una vigilància total"

Harari ha subratllat el perill potencial de la IA, molt més que en el passat. Ha esmentat el règim de Stalin i els agents del KGB: "Fins i tot els agents del règim necessitaven dormir. Ara no es necessiten molts analistes per destriar tota la informació. Ara mateix, l'Iran està ple de cambres de reconeixement facial: poden identificar de seguida dones que condueixen i no porten el vel per castigar-les. Identifiquen qui són i el seu número de telèfon". També ha esmentat el cas d'Israel, que també utilitza tots els recursos a les seves mans per controlar el territori: "Ara és possible una vigilància total".

L'autor ha relativitzat el debat sobre la llibertat d'opinió dels usuaris: "El problema no són els usuaris, sinó els algoritmes". Ha considerat que la responsabilitat dels mitjans és molt seriosa i que s'ha de convocar els editors perquè no publiquin determinades històries que no són certes. "Estic d'acord amb Zuckerberg i Elon Musk a tenir cura a l'hora de censurar. La gent té dret a escoltar estupideses. Però és que amb les fake news és diferent". Harari ha alertat de l'interès de les grans corporacions per capturar l'atenció de la gent i com els algoritmes "han descobert el benefici de prémer el botó de l'odi i la ràbia perquè la gent estigui més temps a la plataforma". 

La coincidència entre Trump i Maduro

A una pregunta sobre la major capacitat de l'extrema dreta per manipular a través de la IA, Harari ha assegurat que moltes d'aquestes tendències penetren des de l'extrema dreta, però l'extrema esquerra també les pot utilitzar: "Trump i Marx es donen la mà aquí. Chávez i Maduro ho han fet. Tant l'extrema esquerra com l'extrema dreta comparteixen una visió cínica sobre el poder, coincideixen en una desconfiança envers les institucions tradicionals que són garants de la veritat, com els mitjans seriosos". 

"La democràcia necessita de la confiança", ha afirmat. L'historiador israelià ha fet una defensa encesa de la veritat: "Sense veritat no hi ha felicitat i s'ha de combatre la visió cínica de la humanitat que només està obsedida pel poder. Mirem persones com Putin, Trump o Netanyahu no semblen molt feliços".   

L'autor de Nexus també ha destacat les moltes aplicacions positives de la IA: "Pot crear la millor assistència sanitària de la història, fer que arribi als racons més allunyats del món. Pot evitar moltes morts en accidents de circulació". Però ha advertit que moltes empreses riques es dediquen a subratllar només els elements més positius de la IA. "No estic en contra de la IA, simplement demano una IA més segura". Yuval Noah Harari s'ha acomiadat reivindicant en el debat de la IA el paper dels filòsofs, no només de tècnics i enginyers, perquè afecta a valors essencials que estan en perill.