"La IA no és ni intel·ligent ni tan artificial". Aquesta va ser una de les afirmacions que va fer dimecres Ramon López de Mántaras a UManresa davant de les més de 150 persones que van voler escoltar la seva conferència crítica sobre el desplegament "irresponsable" que s'ha fet de la IA generativa. López de Mántaras, doctor en Física, ha desenvolupat la seva carrera científica en la recerca i la divulgació sobre la IA. Entre les seves responsabilitats hi ha hagut la direcció de l'Institut d'Investigació en Intel·ligència Artificial (IIIA) del Consell Superior d'Investigacions Científiques (CSIC). A banda d'explicar en què consisteix la IA, el conferenciant va desmuntar alguns mites a l'entorn d'aquesta tecnologia.
López de Mántaras va començar la seva intervenció explicant que la IA és una subàrea de la informàtica que vol replicar les capacitats associades amb la intel·ligència a través de mètodes computacionals. Es tracta, va dir, de dissenyar programari amb capacitat de resoldre problemes complexos que requereixen la intel·ligència per ser solucionats. Tot i el potencial que té en molts camps, com les aplicacions mèdiques de la tecnologia, encara hi ha molt recorregut a fer per desenvolupar una IA general que estigui dotada de sentit comú, que sàpiga raonar a partir d'aquests coneixements i de la comprensió semàntica profunda del llenguatge. "Les màquines no poden funcionar bé, i fins i tot poden tenir efectes perjudicials i conseqüències nefastes, si no saben aprendre la relació causa / efecte", va dir. Aquesta afirmació la va il·lustrar amb exemples que demostren que la IA no entén el llenguatge.
La IA no és intel·ligent perquè no raona i no és tan artificial perquè genera explotació laboral
La IA és capaç de generar frases amb significat, però el seu funcionament és resultat de l'entrenament a partir de patrons de cadenes i llistes de símbols que es repeteixen. El ChatGPT, va dir, pot "escriure com un humà, però sense entendre res. Recita el que ja sap, no memoritza, només reprodueix patrons i seqüències de paraules. No entén ni raona".
Per tot plegat, la resposta a la pregunta sobre si la IA és realment intel·ligent és que no. "No es mereix el qualificatiu d'intel·ligent tenint en compte que només desenvolupa unes habilitats que té sense cap mena de comprensió". Segons López de Mántaras, un dels principals problemes de la IA és el nom que se li ha donat, que no és correcte. S'hauria de dir, va afirmar, "tractament avançat de la informació, però amb aquest nom ni estaria tan de moda ni seríem tots avui aquí en aquesta conferència".
Una altra de les afirmacions que va fer López de Mántaras en la seva conferència és que la IA "tampoc és tan artificial". Basant-se en articles periodístics publicats a la premsa internacional, va explicar que hi ha persones cobrant "un sou de misèria a països com Kènia, Filipines, Índia o Pakistan que treballen per a les grans tecnològiques filtrant respostes i etiquetant dades per al desenvolupament de la IA". "Com més gran es faci la suposada IA", va dir, "més gran serà la necessitat de treballadors manuals".
Els reptes socials de la IA
El consum d'energia, els biaixos, la manipulació, les falsedats, l'impacte en l'educació, la manca de regulació i l'excessiu poder que tenen les grans empreses tecnològiques i els seus interessos econòmics són a la llista de reptes que planteja el desenvolupament de la IA en aquests moments, segons López de Mántaras.
En el cas del consum energètic que requereix fer-la funcionar, va presentar xifres que demostren que els centres de dades de les tecnològiques aviat consumiran tanta o més energia que la majoria de països del món, un consum que és "absolutament insostenible".
Un dels grans reptes, segons el conferenciant, és en l'àmbit de l'educació, amb la incidència negativa que té la seva utilització en la cultura de l'esforç. No obstant això, va afirmar, amb un bon ús, pot contribuir a fomentar la visió crítica i a fer millors preguntes. En aquest sentit, va apostar per una formació humanística i ètica dels tecnòlegs del futur.
Per López de Mántaras, les grans tecnològiques han estat "imprudents" a l'hora de llançar aquesta tecnologia al mercat "com a experiment social", en una cursa per "endur-se el pastís més gran de la IA generativa". De fet, va dir, el que ens ha de fer por no és la tecnologia, "sinó la IA en mans d'estúpids naturals".
No renunciar a les capacitats humanes
El missatge de López de Mántaras és que, tot i la utilitat que pot tenir la tecnologia, no podem renunciar a les capacitats humanes. Sovint, va dir, fer nosaltres mateixos les tasques que li encarreguem a la IA ens pot estalviar temps. A més, va afirmar, si li deleguem funcions com, per exemple, l'escriptura, "li estarem delegant el pensar, que és una habilitat cognitiva fonamental".
Una universitat atenta als avantatges i inconvenients de la IA
La conferència de López de Mántaras a UManresa forma part de la preocupació de la Universitat per la transformació digital i les seves implicacions tant en l'àmbit acadèmic com en la societat. És en aquest sentit que la institució està treballant en diferents àmbits, el més destacat dels quals és la implantació del nou Grau en Gestió de la Societat Digital, que forma un nou perfil professional que sàpiga donar resposta a tots els reptes que implica la transformació digital posant l'accent tant en la tecnologia i la seva implantació, però portant al mateix nivell aspectes ètics i humanístics que tinguin en compte les seves conseqüències.
En aquests moments, la institució compta amb tot un seguit de docents experts en aquest àmbit que ofereixen formació especialitzada adreçada especialment al món empresarial amb l'objectiu d'ajudar-les a desplegar aquestes tecnologies.
D'altra banda, la institució ha posat en marxa un programa intern d'entrenament de persones que s'especialitzen en IA per implicar-les en el desenvolupament i la implantació d'aquestes tecnologies dins de l'organització tenint en compte totes aquestes implicacions, des d'un punt de vista tan pràctic com crític.
La IA, tema central del programa transversal de la UVic-UCC
La conferència formava part del programa transversal de la Universitat de Vic - Universitat Central de Catalunya (UVic-UCC), que es desenvolupa a tots els campus de la institució. Enguany, el programa es dedica a explorar l'impacte de la intel·ligència artificial en la vida universitària amb el lema La intel·ligència artificial a la UVic-UCC, més enllà del hype.