Ha estat a Barcelona Theodore Lechterman, titular de la Càtedra Unesco d’Ètica i Governança de la IA de la IE Universitat, un centre privat amb campus a Madrid i Sevilla. Lechterman ha coordinat un cicle al Palau Macaya de la Fundació “la Caixa”, centre emparat precisament per la Unesco, sobre l’ètica en la Intel·ligència Artificial. Llicenciat per la Universitat de Harvard, doctor per la Universitat de Princeton, el seu camp d’estudi és el futur de la democràcia davant l’auge de les noves tecnologies. 

L’ètica està perdent el tren davant la irrupció de la IA? 
Malauradament, sí. Les forces que estan conspirant per accelerar el desenvolupament de la IA sembla que són més poderoses que l’aparell jurídic i la nostra capacitat per controlar i reflexionar sobre aquests avenços des d’una mirada més congruent amb els nostres valors més profunds.   

El seu darrer llibre tracta sobre la IA i la lluita per un futur democràtic. Arran del que acaba de dir, tem que la IA acabarà sent un accelerador dels nous autoritarismes o un estri de defensa ciutadana? 
Aquesta és una de les grans pors. La IA constitueix una arma molt poderosa i aquells que hi tinguin accés primer poden ser els més rics i poderosos, i estaran en condicions de controlar grans àmbits de l’economia. És certament possible que l’ús que s’acabi fent d’aquesta tecnologia sigui incongruent amb el bé comú o els valors democràtics. La IA no és necessàriament una tecnologia democràtica.

Han debatut de la IA des d’una perspectiva europea. Europa està perdent la cursa del salt tecnològic? Ha caigut en un excés normativista, com se sol criticar, mentre perdia peu en un desenvolupament competitiu amb els Estats Units i la Xina?
És comprensible que ens plantegem això. És un tema recurrent. Hi ha la percepció que hi ha altres potències que fabriquen i, en canvi, Europa és la potència que regula. Però diria que Europa també té l’oportunitat de distingir-se i erigir-se en un bastió d’un tipus d’idealisme, que és un tipus de lideratge i resulta atractiva per moltes persones que viuen en països on no s’està posant cap tipus de limitació al seu desenvolupament tecnològic i que estan fugint. 

Quan esmenta aquests països, inclouria els Estats Units? Europa pot guanyar prou talent tecnològic provinent d’uns Estats Units en fase autoritària?
Absolutament, sí. En aquests moments, hi ha molts acadèmics nord-americans, molts científics, molts enginyers tenen moltes ganes de marxar i reubicar-se en llocs molt més segurs intel·lectualment i amb una major qualitat de vida. Hi ha un seguit de factors que incideixen en una decisió així, des de l’estat de la sanitat, el cost de les universitats a la cura dels nens. Però, per a moltes persones, la situació política i la manera com la tecnologia no s’ha regulat als Estats Units pot ser un element determinant per motivar-los a marxar. Les institucions europees estan treballant per capitalitzar aquesta oportunitat.

Podria posar algunes dades a aquest fenomen del talent que fuig dels Estats Units?
Puc donar-li alguns exemples. Al Regne Unit, s’ha creat un fons per atraure científics nord-americans. És una iniciativa governamental ambiciosa. Un altre cas: a Potsdam, a la República Federal Alemanya, hi ha una fundació privada que té un fons específic per atraure investigadors nord-americans i que s’instal·lin a Alemanya. També he de dir que conec alguns col·legues que em diuen que no és correcte aprofitar-se de la conjuntura política per atreure talent. Però, si passés a l’inrevés, no aprofitarien els Estats Units una situació com aquesta?

El factor Trump en ell mateix pot ser molt decisiu pel que fa al pols tecnològic o potser li donem massa rellevància?
Crec que en aquests processos s’ha de distingir entre les causes de fons i els elements que precipiten els esdeveniments, com és el cas dels temors associats a la política de l’Administració Trump, que al capdavall ha estat un factor de precipitació. Però que respon a un malestar molt de fons lligat a la situació socioeconòmica. La insatisfacció pel cost de la sanitat ha estat decisiva. En l’àmbit tecnològic s’ha donat la resistència per part dels Estats Units de regular democràticament la tecnologia i la voluntat de donar massa poder als CEO de les grans plataformes tecnològiques.   

Tinc la sensació que no veu la Unió Europea tan derrotada com sovint es va repetint com un tòpic.
Crec que Europa té una proposta de valor afegit als seus ciutadans i al món. I és que estem interessats a reflexionar sobre els nostres avenços tecnològics i governar-los de manera democràtica i rebutgem les disrupcions avantguardistes que es volen imposar al preu que sigui. És cert que això implica un cost, porta aparellat uns desavantatges. Però el cert és que aquest enfocament resulta atractiu per moltes persones que des d’altres parts del món aspiren a venir aquí. Gent a qui agrada aquest marc d’estabilitat i solidaritat.

En el cicle al Palau Macaya han debatut sobre aspectes molt controvertits i sorprenents. Per exemple, sobre la possibilitat que es plantegi una mena de ciutadania artificial, és a dir, uns sistemes tecnològics als qui es reconeguin uns drets polítics. Ho veu imaginable? 
Això és del més imaginable en aquests moments. I, de fet, això és del que he vingut a parlar. És un escenari plausible i hem d’estar preparats. La tecnologia ens hi porta, ens agradi o no.

Ens pot posar algun exemple?
Per mi, la qüestió com a filòsof és definir sota quines condicions un sistema artificial seria mereixedor d’uns drets que atribuïm als humans. Si ens preguntem quines són les bases dels drets humans, diríem que és una mena d’agenda moral. Existeixen alguns avenços tecnològics que podrien crear aquesta mena d’agenda moral en un ésser artificial? Posaré alguns exemples. Un podria ser la substitució neuronal gradual. Imaginem-nos que tenim un ésser humà amb una malaltia cerebral degenerativa a qui, de manera gradual, es va substituint les neurones cerebrals per d’altres d’artificials. Imaginem que el 51% de les seves neurones cerebrals són de naturalesa artificial. Aquest ésser és més IA que humà.

És al·lucinant.
En un cas així, aquesta persona continuaria sent considerada responsable dels seus actes, seria titular d’uns drets. Tindria dret a votar i fins i tot a ser candidat. Aquest seria un cas.

En té més?
En tinc més. Un exemple d’emulació cerebral. Imaginem que es fa una còpia del cervell d’una persona, codifiquem aquesta còpia i en podem fer diversos usos, com implantar-ho en un altre ésser, en un robot, interactuar virtualment amb ell. Seria una còpia teva i, de manera intuïtiva, pensem que seria erroni maltractar-la. Seria com un tu emulat. D’alguna manera es podria plantejar atorgar-li certs drets morals. 

Un tercer exemple. Crear uns agents morals algorítmicament construïts. Utilitzaríem una machine learning per dissenyar un sistema d'IA que fos més poderós que els actuals chatbots actuals i que pogués respondre a raonaments morals. Si pensem que és la nostra capacitat d’intel·ligència moral la que ens atorga el nostre estatus, podríem plantejar donar el mateix estatus a aquests agents morals creats de manera algorítmica. Aquests exemples els manllevo d’un altre filòsof. Què significaria per la democràcia amb l’emergència de persones artificials?    

Això podria redefinir el sistema democràtic?
És molt difícil de vaticinar, tant conceptualment com moralment. Seria un repte veure com redistribuiríem els drets i responsabilitats polítiques entre diferents éssers tan heterogenis. Perquè la democràcia es basa en el fet que tots som iguals. I els qui tinguessin més capacitats serien mereixedors de més vots? I si els éssers artificials acaben reunint més vots que nosaltres? 

Un home, un vot, un robot, dos vots…
Sí!

En el cicle al Macaya també s’ha debatut sobre la possibilitat de l’amor entre éssers humans i robots.
El meu punt de vista sobre això potser no està prou madurat. Però un problema de les relacions íntimes que es poden forjar entre éssers humans i éssers artificials és que, fins al moment, estan sotmesos al control humà. Se suposa que han de ser una mena de servents. No són capaços d’una agenda autònoma completa i la majoria de persones que estan creant aquests éssers creuen que no seria una bona idea crear-ne de plenament autònoms. 

Però la qüestió és la següent: no és possible mantenir una relació autèntica amb algú que sigui el teu servent o el teu esclau. En un cas així, se li requeriria que fingís que t’estima. La idea de l’amor entre un ésser humà i un robot se sosté sobre un error fonamental de base. A tret que creem persones de IA plenament independents. Però suscita la pregunta de per quin motiu voldríem crear éssers així? Quan ja disposem d’éssers humans…

A banda de si els humans i els robots poden estimar-se, una altra qüestió seria preguntar-nos si la IA pot facilitar l’amor entre els mateixos éssers humans o ho dificultarà més?
Probablement no millorarà la relació entre les persones, sinó que l’empitjorarà. Les relacions no autèntiques, o falses, amb robots canvien les nostres expectatives perquè fan el que els demanem i aleshores podem esperar el mateix en les nostres relacions humanes. Sociològicament, això podria tenir un impacte negatiu en les relacions humanes. 

No tem que moltes persones poden tenir la temptació de preferir la relació amb els robots?
És possible, certament. Hem vist empreses que ofereixen companys de Chatbot i que s’han fet molt populars, sobretot entre l’adolescència.       

Hi ha un debat obert sobre l’impacte que tindrà en el mercat de treball. En això, quina posició té vostè?
Hi ha moltes variables aquí. Hi ha qui assegura que la IA eliminarà molts llocs de treball, però també en crearà d’il·limitats, de la mateixa manera que les tecnologies precedents també ho han fet. En tot cas, crec que hem subratllat massa el treball com a base per a una bona vida. Estaria bé estar més alliberats d’aquesta servitud laboral per poder explorar altres facetes de l’experiència humana, de la pesca a la gastronomia, de la poesia a les relacions socials. El que tenim clar és que estem davant de potencials desigualtats a mesura que anem adoptant aquesta tecnologia.  

Quins han estat els filòsofs que l’han influït més?
Hi ha quatre pensadors que han exercit més influència sobre mi. Plató, per exemple. Estic poc d’acord amb el que postulava, però bona part de la filosofia és una nota a peu de pàgina en un llibre de Plató. És impossible no respectar la grandesa de la seva obra, comparat amb Aristòtil. La perfecció en el treball de Plató és admirable. Un altre pensador seria Kant. Crec que es va equivocar en coses, però el seu sistema, en línies generals, funciona. Un altre pensador de referència és el nord-americà John Rawls.  

Un social-liberal.
En efecte. Crec que hi ha acadèmics que no interpreten prou bé Rawls com a defensor del capitalisme. És molt més radical del que poden apreciar molts dels qui el llegeixen. I un quart nom seria Elizabeth Anderson, una deixebla de John Rawls. Va estudiar la naturalesa de la desigualtat i l’ètica del mercat, combinant pensament filosòfic radical amb una escriptura molt passional.