«Els parlaments han de determinar els límits de la intel·ligència artificial i saber quan aturar-la»

Cada vegada més, la intel·ligència artificial ocupa un paper més important a la nostra vida. L'increment de la seva utilitat en diversos àmbits de la societat ha fet que ens qüestionem el seu impacte o els límits del seu ús i que debatem a les institucions el paper que ha de jugar entre nosaltres. El director de l'Institut d'investigació en IA del CSIC, Carles Sierra, la doctora de Ciències de la Computació de la UAB Aura Hernández, i la sociòloga i doctora en estudis de la ciència i la tecnologia Núria Vallès-Peris ens ajuden a entendre i comprendre aquest fenomen.

Quan comencen a sortir les primeres investigacions en intel·ligència artificial? D'on neix i per què?

Carles Sierra (C.S.): Per mi la intel·ligència artificial comença amb Ramon Llull fa 700 anys. Tot i això, molta gent considera que és el 1950 amb un article que fa Alan Turing: Can machines think?. Al cap de pocs anys hi ha una reunió al Dartmouth College (Estats Units) i allà un grup de 10 investigadors encunyen el terme artificial intelligence. Així doncs, molta gent diu que és a partir de llavors que neix aquest concepte i àrea.

Com s'evoluciona fins a arribar avui en dia on el ChatGPT s'està introduint a la societat?

C.S.: Tothom pensava que s'aconseguia una intel·ligència artificial molt aviat generada als anys 60 i aquí ve la primera decepció, el primer hivern que se'n diu. Durant els anys 70 i 80, creix la idea que no podem tenir intel·ligències artificials generals, però anem tenint intel·ligències artificials específiques, en diverses àrees. En aquesta època surten aplicacions molt interessants: el sistema basat en coneixements. A finals dels 80 i principis dels 90 hi ha una segona decepció, un segon hivern, amb sistemes molt fràgils que provoquen que les coses ràpidament deixin de funcionar. Fa 15 anys tornà a haver-hi una revifada amb les xarxes neuronals amb resultats molt interessants i potents, podríem dir que és l'època en la qual estem. Hi ha una nova primavera d'aplicacions, de moment. Ja veurem si hi haurà un nou hivern més endavant.

Aura Hernández (A.H.): Jo hi afegiria que la introducció de la intel·ligència artificial a la societat fa més anys que hi és. Ara es veu molt perquè hi ha temes que són més fàcils d'ençà que tenim les xarxes neuronals profundes i que fa que es puguin utilitzar molt més en el dia a dia. Però, les aplicacions d'intel·ligència artificial a la societat com pot ser en la salut o altres aspectes, ja fa anys que existeixen.

Núria Vallès-Peris (N.V.): Ara hi ha certa moda al voltant de la intel·ligència artificial. Al costat del desenvolupament tecnològic, s'ha construït una espècie d'altaveu als mitjans de comunicació que també magnifiquen i distorsionen el que està passant a nivell tècnic. Des dels estudis socials o la reflexió de "què poden pensar les màquines" hi havia una sèrie de discussions als voltants dels anys setanta que ara han desaparegut. Hauríem d'entendre la intel·ligència social com un sistema sociotècnic, una barreja entre societat i tecnologia. A les xarxes socials trobem a faltar una sèrie de debats sobre si és possible o no una intel·ligència de les màquines i en quin model d'entendre el cervell està basada aquesta idea. Hi havia una sèrie de debats entre els anys 70 i 80 que ara sembla tornen a estar força presents.

L'estat actual de la intel·ligència artificial és diferent del que percebem la societat.
A nivell tècnic, és diferent del que entenem a través dels mitjans de comunicació? Així doncs, quin és l'estat en què es troba tècnicament?

C.S.: A nivell sintàctic, els ordinadors són màquines superpotents i són capaços de manipular símbols, números, calcular. Hem d'anar alerta perquè continuen sent sistemes amb unes funcions extraordinàries i que ens permetran fer coses molt interessants, encara manquen la part semàntica i pragmàtica. Els grans problemes que són la semàntica i pragmàtica el continuem tenint i continuen sent els reptes de la intel·ligència artificial.

N.V.: Plantejo que el terme intel·ligència no sembla tant de la realitat. Em fa l'efecte que posar damunt la taula que són màquines, que la metàfora de la intel·ligència i el cervell humà ho hem d'afinar i posar dues veus diferents.


C.S.: Sobre això tindria dues idees diferents. El concepte d'intel·ligència que planteja Turing és molt operacional, ell diu: serà intel·ligent aquella màquina que sigui capaç de fer tal cosa. En el seu article original respon afirmativament que les màquines puguin ser intel·ligents. Ningú pretén fer un model del cervell a l'ordinador. També hem de tenir en compte que la intel·ligència no és únicament dels humans, hi ha molts animals intel·ligents. I, aquí, hi ha un element etnocentrista. De fet, hi ha animals que tenen capacitats que els humans no tenim i en aquest sentit, les màquines podran tenir una intel·ligència diferent de la dels mamífers i seran capaces de relacionar-se amb el seu entorn i resoldre problemes.

A.H.: Tornem al concepte d'intel·ligència. Abans es discutia què era la intel·ligència i ara sembla que s'hagi superat. Es dona per fet que les màquines son igual d'intel·ligents que l'ésser humà. I el fet que aparegui una xarxa neuronal que intenta imitar un cervell, segurament és aquí on se'ns en va el discurs. La intel·ligència no només és humana, molts processos intenten reproduir altres tipus d'intel·ligència: de les formigues, abelles, etc. I, per tant, potser hem de redefinir el concepte perquè la societat tingui clar fins on han arribat les màquines i ja discutirem fins on poden arribar.

Dins de la intel·ligència artificial, hi ha diferents intel·ligències?

C.S.: Tenim diferents capacitats cognitives: entendre el que veiem, raonar, tenir memòria, etc. Per a moltes d'aquestes capacitats, hi ha sistemes artificials que emulen allò que els humans fem. Hi ha sistemes que són capaços de raonar, és a dir, fer el que els humans podem fer.

N.V.: Des de la psicologia o la sociologia hi ha un pluralisme teòric encara present amb relació a les diferents intel·ligències. No hi ha un consens sobre aquest tipus de qüestions. Passa el mateix quan la intel·ligència artificial reconeix emocions, agafen una teoria psicològica i des de l'àmbit de ciències socials no hi ha consens sobre aquest tipus de classificació. Per tant, crec que és important discutir moltes coses i posar damunt la taula conflictes o discussions que ens sembla que estiguin superades i agafem aquesta teoria com si fos neutral i única.

Ara mateix, amb el desenvolupament que hi ha d'intel·ligència artificial, per a quines coses pot anar bé?

C.S.: És molt transversal. Ens podríem fer aquesta pregunta: en què no pot ser útil la intel·ligència artificial o els sistemes que estem construint? A vegades hi ha estudis que indiquen quines són les feines que es perdran en un futur. Un d'ells, afirma que el 50% de les feines que fem avui en dia es podrien automatitzar. Per tant, hi ha moltes tasques avui en dia, que els humans podríem estalviar-nos. Hi ha feines que perduraran més en el temps com per exemple les que consisteixen a tenir cura dels altres, les feines més creatives o les d'educació. Però no et sabria dir una àrea en què la intel·ligència artificial no pugui incidir.

Amb la intel·ligència artificial al món laboral hi ha gent que té por. S'ha d'agafar com una oportunitat o com una amenaça?

A.H.: Amb l'ús de la intel·ligència artificial al món laboral, es perdran alguns aspectes, però també se'n guanyaran d'altres. Jo parlaria de transformació de llocs de treball i no de pèrdua, ja que se'n guanyarà de nous que segurament ni existeixin en l'actualitat. Així doncs, hem d'incorporar aquest aspecte com una oportunitat per incorporar-ho en el nostre dia a dia. És una nova oportunitat, però el debat ha de continuar sent-hi.

N.V.: La intel·ligència artificial no avança pel seu compte com una màquina imparable, la fem nosaltres. Podem establir quins llocs necessiten més automatització i decidir en quins espais es necessita.


Depenent de les conseqüències que pugui tenir, se'ns en pot escapar de les mans?

A.H.: No és una cosa ni bona ni dolenta. Al cap i a la fi, tot depèn de les mans en què estigui la intel·ligència artificial. És per això que és importantíssim que hi hagi lleis i estigui regulada des de les institucions.

N.V.: La política científica i tecnològica europea, esmenta que la recerca i la innovació són responsables de donar resposta a tota aquesta mena de problemes que porta aquesta tecnologia. La intel·ligència artificial proposa nous reptes dels quals hem de parlar.

C.S.: Tecnològicament, la intel·ligència artificial estarà durant molts anys amb un "botó de stop". La gent no ha de pensar que la intel·ligència artificial ens acabarà dominant, sinó que ha de tenir en compte que el "botó de stop", hi és. I, els tecnòlegs posen aquest botó. El problema és qui té el poder de pitjar aquest botó. Els parlaments han de determinar els límits de la intel·ligència artificial i saber quan aturar-la. Així doncs, que la gent estigui tranquil·la, tecnològicament, el "botó de stop" hi és.

Per a les grans empreses tecnològiques, és molt difícil dissenyar marcs legals que regulin les xarxes socials, entre d'altres. Amb la intel·ligència artificial es repeteix el mateix paradigma, és més fàcil de controlar o està en mans del poder?

C.S.: Es pot regular. Al cap i a la fi, tots els sectors econòmics i productius es regulen. Europa ha estat pionera en termes de privacitat i, avui dia, la intel·ligència artificial s'està regulant des del Parlament Europeu.

N.V.: S'ha de regular. Tenim la responsabilitat de portar la intel·ligència artificial on vulguem. Això vol dir que les grans empreses multinacionals no puguin decidir quin és camí que ha d'emprendre la intel·ligència artificial. Tot i això, l'Administració Pública ha de liderar i decidir quines són les prioritats i on hem d'introduir la intel·ligència artificial.

A.H.: S'ha de regular i alfabetitzar la societat per poder-la empoderar. Necessitem que la societat sàpiga el que és un ChatGPT i quines funcions pot desenvolupar, més enllà de realitzar una pregunta i obtenir una resposta per part seva.

Hi ha una falta de consciència sobre les xarxes socials i les noves tecnologies. Una societat que encara no ha paït les noves tecnologies a nivell social, es pot relacionar amb la intel·ligència artificial?

C.S.: No podem viure en una societat en la qual si hi ha beneficis, la cosa és bona. Aquest plantejament no l'hem de tenir. D'alguna manera, els ciutadans han de tenir l'última paraula en molts d'aquests casos. Per exemple, YouTube va crear "YouTube kids" amb contingut per a infants. Amb aquesta creació, els pares volien tenir un control parental i els enginyers de Califòrnia (Estats Units) passaven olímpicament de les seves demandes. Finalment, van haver de passar més de tres anys perquè el lobby de pares aconseguissin que els enginyers de YouTube decidissin afegir aquella funcionalitat. No podem quedar desprevinguts d'una sèrie de decisions que prengui una sèrie de companyies. El control dels parlaments ha de ser fonamental en com es desenvolupa la tecnologia i la intel·ligència artificial.

Ara mateix, a qui li interessa més desenvolupar la intel·ligència artificial?

A.H.: Als que fem recerca, per descomptat. I, a les empreses, també. No només per produir més, sinó per millorar en molts aspectes. En l'àmbit de la salut pot ser útil a l'hora de detectar un càncer precoçment, per exemple. Una màquina no et dirà si un pacient pateix càncer o no, però et facilitarà la feina de mirar i analitzar una gran quantitat d'imatges.

Creieu que la intel·ligència artificial posa en qüestió el model actual d'educació?

N.V.: La intel·ligència artificial sola no fa res. No provoca cap problema de plagi ni posa en dubte el sistema educatiu. El que podem fer és posar la intel·ligència artificial al servei educatiu amb el qual la comunitat educativa es mostri d'acord. Podem dotar nens i nenes amb una sèrie d'habilitats i explicar que és el que passarà amb les màquines i com funcionen els aprenentatges automàtics.

A.H.: Els adults no som conscients que estem regalant les nostres dades i el que implica. És responsabilitat dels adults conèixer aquestes eines per poder acompanyar els nens en aquest creixement. Abans hi havia assetjament físic i ara existeix el ciberassetjament. Has de transmetre als teus fills valors perquè no facin això.

N.V.: És impossible renunciar a la intel·ligència artificial. És la màquina més bèstia que hem creat fins ara que és capaç de generar coneixement, d'accedir al coneixement, de manipular i treballar amb coneixement. Llavors, des del context educatiu des d'on els humans aprenem, ens formen, adquirim, manipulem, és impossible no tenir eines basades en la intel·ligència artificial i el professorat ha de reciclar-se igual que s'ha reciclat tota la vida. El professorat sempre s'ha anat adaptant a l'evolució tecnològica i, ara, s'haurà d'adaptar a les eines que la intel·ligència artificial ens proporcionarà. Un professor no pot deixar de conèixer bé les eines d'intel·ligència artificial. Per a mi, això seria renunciar a la seva obligació com a educador, viuen immersos en un món on la tecnologia els envolta.

Els professors han de limitar-ne l'ús als alumnes i a ells mateixos?

N.V.: Sens dubte el professorat forma part de la societat i l'escola és el mecanisme que ens hem dotat socialment per integrar la ciutadania. Cal entendre la intel·ligència artificial com un sistema en què hi ha moltes persones implicades: enginyers, matemàtics, sociòlegs, psicòlegs, professors, lingüistes, etc.

A.H.: En l'àmbit de la salut nosaltres no desenvolupem aplicacions d'intel·ligència artificial si no hi ha una problemàtica al darrere. A l'hora de fer l'aplicació sempre tindràs un equip amb qui treballar. Des dels claustres no se'ns ha demanat una aplicació concreta.

C.S.: La gent s'inventa usos amb la intel·ligència artificial. Per exemple, un professor fent un examen que podria fer en un matí sencer sense intel·ligència artificial. Se li han de buscar els usos interessants a la docència. No pots tenir pensament crític dels alumnes ai no els ensenyes com funciona la tecnologia.

A.H.: Trobar els límits del ChatGPT ajuda a entendre com funciona. Un cop vaig fer un taller i treballaven amb machine learning i allà jugaven a classificar idees que tu no planteges i els hi dones un camp lliure donant-los un bon context. El professorat ha de ser qui perdi la por a explorar i entendre el funcionament d'aquestes eines i facilitar la recerca dins del mateix professorat.

A nivell tècnic, fins on creieu que pot arribar? A nivell sociològic, quins problemes i solucions pot aportar? Sou optimistes?

C.S.: A nivell tecnològic la intel·ligència artificial està produint una automatització accelerada i hi ha molts sectors que ho utilitzen per fabricar millor o estalviar-se assalariats, per exemple. Els límits són els mateixos que als anys seixanta, la semàntica i la pragmàtica. Necessitarem unes quantes dècades perquè la semàntica i pragmàtica estiguin a l'abast de les màquines, és un procés lent.

N.V.: No sabem cap on anirà la intel·ligència artificial, les conseqüències són incertes. És innegable que aquestes conseqüències tindran a veure amb les decisions polítiques, així com , els seus efectes.