Óscar Méndez Soto és un empresari tecnològic (CEO de Stratio) amb més de 25 anys d’experiència en la creació i direcció de companyies vinculades al software, dades, transformació digital i IA. Fa tres anys va crear GenAiA, una entitat abocada a un ús constructiu de les noves tecnologies. És una veu autoritzada en un moment en què el sector viu sacsejat per l’advertiment de diversos directius i investigadors sobre el risc d’una IA fora de control.
En primer lloc, què és GenAiA?
És una associació de IA generativa que, sense ànim de lucre, vam crear fa tres anys. Quan va sorgir ChatGPT i encara no s’utilitzava, vam veure que podia evolucionar sense sostre. Hi havia qui sostenia que tenia uns límits, però nosaltres teníem clar que continuaria evolucionant. Volem conscienciar i transmetre que les possibilitats de la IA són infinites però s’han de canalitzar perquè sigui positiu per a les persones.
Com es financen?
Amb fons propis. De fet, a GenAiA pràcticament la finanço jo. He tingut la sort de crear empreses tecnològiques i start-up amb èxit i jo crec que he de retornar això a la societat. Se’ns dona coses perquè nosaltres també donem.
Té una mirada positiva sobre la irrupció de la IA.
Hem de fer coses perquè sigui positiva. Crec que en uns deu anys moltes malalties que ara semblen incurables, com el càncer, seran curables gràcies a la IA, però hem de fer coses perquè no tingui un impacte negatiu sobre el treball o s’incrementin les desigualtats o que fins i tot pugui acabar amb la humanitat.
És una persona del sector privat amb sentit del servei públic.
Sens dubte. S’ha de tenir, ens hem de preocupar pels altres. Soc budista i estic obligat a actuar així per convicció espiritual.
Permeti’m que li pregunti si hi ha possibilitats que morim tots aviat. Ho dic per l’advertiment que va fer un exdirectiu tecnològic. Què està succeint perquè el CEO d’Anthropic, Dario Amodei, i també el d’OpenAI, Sam Altman, adverteixen que és necessari aturar el ritme de la IA?
També Elon Musk ha parlat de frenar el ritme. A veure, és un fet que pot passar, no hem de ser catastrofistes, però hem de contemplar tots els escenaris. La IA és capaç de millorar-se a ella mateixa. En un moment de ruptura exponencial, pot passar de tenir una intel·ligència com la que té actualment a una superintel·ligència, el nivell més alt d’intel·ligència de tota la història. Per simplificar-ho una mica, nosaltres seríem àtoms reutilitzables i res més.
I això és molt probable?
Hi ha un 10% de probabilitats que passi això. Per posar en context, en una central nuclear les mesures de seguretat han de garantir que el risc d’un accident sigui d’1 entre 100.000 possibilitats. Doncs ens trobem que el risc en el cas de la IA és molt més elevat. És un risc seriós. Creiem que no succeirà perquè l’ésser humà ha fet coses increïbles, com regular el poder nuclear. Però hem de generar uns controls.
A quant estem d’un punt de no retorn?
A dos anys, potser tres.
- Óscar Méndez
- Cedida
Doncs no és gaire. El discurs de la irresistibilitat de la IA està una mica forçat? Marta Peirano, periodista especialitzada en noves tecnologies, escrivia recentment que els advertiments alarmistes eren tramposos, ja que la legislació actual ja protegeix els usuaris de productes potencialment perillosos. Hi està d’acord?
Estic d’acord en què en el posicionament d’aquests directius de grans companyies hi ha una part de màrqueting i una altra d’interès propi. L’interès principal d’Anthropic, per exemple, és que hi hagi un esforç regulador per protegir les grans empreses de IA que eliminin les empreses petites amb l’argument que són incapaces d’establir uns controls sobre la IA. Hi ha una estratègia d’acabar amb la resta.
Fixem-nos com les grans farmacèutiques, a través dels protocols de medicament, han aconseguit que només els gegants del sector puguin obtenir medicaments. S’ha carregat la competència. El mateix vol la IA, que els controls i regulacions siguin tan costosos que no apareguin més competidors. Ara bé, no estic d’acord amb la periodista en el sentit que la IA Act, la llei actual -en què nosaltres vam intervenir en alguns articles-, no protegeix davant una IA àgil.
I aleshores?
La IA Act protegeix l’ús que es fa de la IA per part de les persones i les empreses, però l’ús que la tecnologia fa de si mateixa no queda protegit. És com dir que hi ha unes regles que prohibeixen agredir els nens als parcs públics, però no a les cases.
Un dels problemes del sector de la IA és la seva profunda endogàmia?
Sens dubte. La globalització i centralització de la IA en dos grans blocs com són els Estats Units i la Xina són un gran problema, però la centralització de la IA en tres o quatre empreses, com a màxim, és fins i tot més problemàtic. Insisteixo en què l’evolució pot ser positiva i la humanitat ho sabrà reconduir, però té la capacitat de destruir ocupació i de destruir la humanitat. És com l’energia atòmica, però la IA té implicacions pitjors, perquè les bombes atòmiques les tenen només cinc estats perquè es va regular.
En el cas de la IA, estem parlant d’empreses privades. Tal com està la regulació ara, el projecte Manhattan -com es deia la fabricació de la bomba atòmica- l’estan elaborant empreses privades. Això és un camí cap al desastre. No hi ha un control públic dels governs, és cm si les bombes atòmiques les estiguin fent empreses privades. És inadmissible.
Parlava abans de l’impacte sobre el treball. Vostès van fer un informe sobre aquest tema.
Fa dos anys vam fer un estudi en la perspectiva que els governs es posaran d’acord per entomar l’impacte de la IA sobre l’ocupació. La nostra previsió era que entre el 2028 i el 2030 poden desaparèixer el 20% dels llocs de treball d’un país, que és un 40% de les tasques intel·lectuals. Per exemple, la IA ho fa millor que un consultor. Molts metges, enginyers… La IA programa millor que els més bons programadors. Els nois que estudien informàtica i surten de la universitat no troben feina. Això ja està passant.
I què s’ha de fer aquests joves amb estudis davant d’aquest salt?
S’han de reinventar. La universitat encara ensenya a programar, però ja no és necessari. S’haurà d’anar, sens dubte, a una renda universal. No hi ha altra solució. Hem fet més de 200 escenaris diferents i no hi ha altra solució. Però hi ha una part positiva: una renda petita conviurà amb uns serveis i uns béns materials amb uns costos baixos. Un film com Avatar costa centenars de milions de dòlars. En tres anys costaran 100.000 dòlars. Una renda universal ben ben gestionada, la qualitat de vida millorarà.
Però, suposant que això fos així, què passarà de la vida? Com serà la vida de les persones, que ara gira entorn l’àmbit laboral? Si em permet un punt d’humor, vostè ho té bé perquè és budista… Però i la resta?
Sí, sens dubte. El problema és el sentit de la vida i caldrà conscienciar també la gent en això. L’ocupació de l’oci de les persones plantejarà aspectes psicològics i filosòfics. Caldrà ajudar, assessorar, crear noves professions.
Quines noves ocupacions poden sorgir?
Professions de cura de les persones, d’atenció a la psicologia de les persones. Estem en un escenari totalment diferent al que hem conegut.
Ha estat molt crític amb l’ús lliure i obert del núvol públic (public clouds) per part del govern espanyol. Per què?
Hem de tenir el control de la tecnologia. Qualsevol sistema crític de l’Estat o la Generalitat que es mogui per public cloud és susceptible de ser intervingut. No hi ha cap tipus de privacitat. utilitzar el public cloud per sistemes crítics és un acte d’irresponsabilitat. Hem de copiar el model francès.
En què consisteix?
Estableix que per sistemes crítics de l’estat no es pot utilitzar el public cloud. S’utilitza un data center especial controlat pel govern amb ofimàtica seva. No pot ser que converses entre ministres francesos puguin ser obtingudes pels nord-americans. La public cloud es pot emprar per aspectes inofensius. Crec que la política tecnològica tant d’Espanya com de la Generalitat ha estat encertada en l’enfocament. Ja es parla de sobirania tecnològica. Anunciar el projecte ALIA, fa cinc anys, que el govern espanyol va presentar a Catalunya, va ser un encert enorme.
La intuïció va ser correcta, però la seva execució no. Ha quedat com un projecte petit que serà poc útil. L’època de construir motors de IA ja ha passat. Ara mateix hi ha els models frontera, els models frontier, capaços de crear noves matemàtiques. Espanya pot fer molt bé no el motor sinó tot el que acompanya el cotxe: els frens, la seguretat, la suspensió, les rodes, on hi ha terreny per córrer. Tot el que envolta els motors.
La Comissió Europea està fent els deures?
La broma tòpica d’uns Estats Units que innoven, la Xina copia i Europa regula té bona part de veritat. Europa regula i fa poc. La regulació és necessària, però s’ha de posar el focus en innovar i crear tecnologia pròpia. En aquests moments, som una colònia digital dels Estats Units. França ho està fent molt bé. S’ha de tenir independència tecnològica. S’ha creat a Catalunya l’empresa Openchip, que vol construir microxips. Trigarà quatre o cinc anys per crear un micro o una GPU, però ho farà. Cal més inversió i anar molt més ràpid.
