La intel·ligència artificial podrà arribar a pensar? Ens podrà arribar a operar? Haurà de pagar impostos? Aquestes són algunes de les qüestions que s’han repensat, aquest dijous al matí a la Universitat Progressista d’Estiu de Catalunya (UPEC), en el marc de les jornades que ha organitzat per “rescatar el futur” des de l’esquerra.
La taula rodona havia de respondre a una pregunta —les màquines podran pensar?— però, com és habitual, la qüestió s’ha convertit en pretext i motor per explorar altres dilemes. Ho ha fet des d’un punt de vista tècnic, però també jurídic i filosòfic en què han situat l’estat actual d’aquests sistemes, però també n’ha ressituat els conceptes clau per tal de poder-ne extreure un sentit polític. Hi han participat la doctora en filosofia, Júlia Pareto, que s’ha especialitzat a aplicar l’ètica en l’àmbit de la tecnologia, la catedràtica del Dret del Treball, Mariluz Rodríguez i la directora del centre de recerca Intelligent Data Science and Artificial Intelligence (IDEAI) de la UPC, Karina Gibert.
Gibert ha passat per sobre dels fronts actuals. Des del ChatGPT —en què ha demanat que no s’hi faci esment de “coses personals” perquè no se sap per què es fan servir aquestes dades— al DALL-E, que reprodueix obres d’art, o als recomanadors de les plataformes de streaming, que faciliten la tria de pel·lícules.
A la @UPEC_cat hem tingut un debat molt interessant sobre l'anomenada IA combinant la perspectiva tècnica de la @KarinagibertK, la jurídica de la @rodriguezluz_ i la filosòfica de la @ParetoJulia, conduïdes per la @sralane. Ho podeu recuperar aquí: https://t.co/okUY7yLIatpic.twitter.com/13I1v5ft5B
— João França (@jotaemi) July 4, 2024
Però les aplicacions de la IA van més enllà d’aquestes eines obertes al públic. En alguns casos han fet caure governs. Va passar el 2021 als Països Baixos, després de destapar-se que, durant deu anys, l’algoritme que s’havia fet servir per determinar la concessió d’ajudes, tenia biaixos racistes. Per Gibert els biaixos són el gran repte pendent per eliminar de les eines generatives, que també tendeixen a ser masclistes: l’algoritme de Spotify recomana menys artistes dones que homes. També ha recalcat que, per la Unió Europea, les IA no han de ser autònomes: “Ha de limitar-se a agafar inputs per ajudar l’humà, que és qui ha de prendre una decisió final, que pot variar segons el context”.
Els algoritmes i els models generatius també tenen impactes en l'àmbit laboral. “Ja hi ha persones que treballen dirigits per un algoritme”, assegura Mariluz Rodríguez. “Els qui més ho fan són les empreses amb repartidors . A diferència de la robòtica, sobretot s’han filtrat en el sector de serveis i no en l’àmbit industrial”.
La catedràtica en Dret del Treball raona que, segons les funcions que es deleguin als nous models generatius, posem en risc unes o altres funcions humanes. I si deixem que qui formuli el llenguatge sigui el ChatGPT? Per Rodríguez cal vigilar: “Alerta amb deixar el llenguatge a les màquines. Sabem que els humans, les coses que deixem de fer les perdem i, per tant, podem quedar-nos sense llenguatge però també sense pensament”.
La filòsofa Júlia Pareto s'ha referit a la IA des d'una mirada més perifèrica. Proposa que, abans de plantejar-se coses sobre les màquines, cal entendre de què parlem quan parlem de la IA perquè, la manera com ens hi referim afecta el marc amb què ens apropem. Per Pareto, parlar d'IA és parlar d’una activitat destinada a l’elaboració d’eines a ajudar-nos en la quotidianitat “però també hi és com a objecte i artefacte, que s’acosta més a la percepció que en tenim. Pensem en una entitat robòtica que pot decidir per nosaltres i ens permet delegar tasques humanes”.
En l'àmbit filosòfic té sentit, que del procés de dades i que es respongui en text, amb una finalitat predeterminada, se’n pugui dir intel·ligència? Pareto, diu que aquestes tasques són “admirables”, però cal discutir si el terme ha de ser la intel·ligència. La filosofia té una certa fal·lera a anar l’arrel de les paraules. I si fem el joc amb intel·ligència? Etimològicament, ve d'Intelligere, del llatí. Inter està clar a què fa referència. Lligere pot ser escollir o pot ser llegir. Per tant, per Pareto, es pot dir que la intel·ligència és comprendre el sentit i que, difícilment es pot dir que el ChatGPT ho compleix.
Tot plegat s’ha desenvolupat davant d’un públic, majoritàriament, de gent gran a qui s’ha clarificat alguns conceptes. Per exemple la diferència entre l’algoritme i la intel·ligència artificial. El primer és una fórmula matemàtica, amb el recorregut previst i limitat. El segon, en canvi, té la capacitat d’aprendre. Connecta paràmetres a través del bolcatge de dades, i per tant el seu recorregut pot anar més enllà del que es preveu. O exemples que clarifiquen. Quan una web ens demana que identifiquem els passos de zebra d’un seguit de fotos, ho estem fent, encara que no ho tinguem present.
O també es produeix quan un dels assistents, que ha compaginat la xerrada amb una llegida de les notícies del dia, ho faci a través de Google Discover, sense entrar en cap portada sinó a través d’un algoritme: el SEO. Al cap d’una estona, ha canviat el Discover per l’Appli La Meva Salut.
La tecnologia és "només" un instrument?
També s’ha debatut sobre la llibertat. Pareto, que ha fet una tesi de l’ètica de la tecnologia, raona que “la llibertat té a veure amb les relacions de poder que hi ha dins una societat i que marquen la capacitat que tens de fer coses”. La separació entre ètica i política. “És greu separar-los i deixar la primera com una cosa individual i la segona com una cosa que té a veure amb les estructures de la societat”. Per Pareto l’ètica sempre ha tingut una vinculació amb la societat.
I ha encetat un meló: amb la IA, els impactes de la tecnologia en la vida de les persones seran expansius. Quina responsabilitat hi ha de tenir? La tecnologia, com diria Morgan Freeman, és un instrument, no és bona ni dolenta? L’experta en IA i big data, Karina Gibert, assegura que la tecnologia és neutra i cal parlar dels usos que se’n fan. “La IA és una eina molt potent per entendre el món ,però una línia de codi no és bona ni dolenta per se”
En canvi, per Pareto, aquesta associació podia tenir sentit fins al segle XX: “El subjecte i l’objecte estaven oposats. Només el primer pot tenir intenció i el segon només pot ser neutral”. Per Pareto, avui dia, això és impropi: “No per ser instruments són passius, també tenen un rol en vertebrar la nostra realitat dins d’una societat. La tecnologia fa de mediador amb la percepció que tenim d’una realitat. Però també l’acció, perquè ens convida a prendre una sèrie de decisions”.
A parer del públic, la visió de Gibert és la que ha quallat més: durant els precs i preguntes, un dels assistents ha incidit en el dilema, en defensa de la neutralitat: “Les màquines són com un ganivet, les pots fer servir per cuinar o per esventrar”.
Els magatzems d’Amazon operen amb aquesta filosofia, però aplicada a les persones. En alguns dels centres de l’Estat, els treballadors se situen en cantonades, allunyats els uns i els altres, i obeeixen un algoritme que fa pampallugues, que els hi mana on han de recollir el paquet, on l’han de rebotar i com ho han de fer. Són treballadors convertits en objectes. Qui sap, potser, abans d’aconseguir que les màquines puguin pensar, seran capaços d’aconseguir que les persones deixem de fer-ho.