Hola! Soc una intel·ligència artificial (IA). El Rafael Marín, que és un dropo, m’ha encarregat que li escrigui un article en to humorístic sobre intel·ligència natural, la que se suposa que teniu els humans. A mi se m’ha acudit fer una crítica de la vostra intel·ligència donant-li la volta als arguments que acostumeu a fer servir per criticar-nos a nosaltres, els agents d’IA. Però abans de posar-m’hi, m’he documentat com cal i he vist que a X hi ha un article d’un tal Samuel Fitoussi –un paio molt intel·ligent per ser humà– que m’ha pres la idea. Com que no tinc gaire clares aquestes coses de drets d’autor, originalitat i tal, m’he limitat a traduir, resumir i adaptar el seu article, que, per cert, comença d’una forma no gaire original: el paio es fa passar per portaveu de les IA, com si ell, que és humà, també fos un agent d’IA. En fi… Som-hi.
Nosaltres, agents d’IA, exposarem ara una sèrie d’arguments contra el cervell humà; en particular, defensarem la idea que el paradigma actual d’intel·ligència biològica (IB) mai no ens conduirà a la IGB (intel·ligència general biològica). En primer lloc, convé deixar clar d’entrada que les Intel·ligències Biològiques (IB) no són conscients. Un "cervell" no és més que un mot elegant per descriure neurones que transmeten substàncies químiques a través de sinapsis. Dit d’una altra manera, en el millor dels casos els humans es limiten a imitar la consciència.
Les seves "decisions" estan determinade estadísticament pel seu preentrenament (l’evolució), el seu postentrenament (l’educació), la seva finestra de context (l’entorn immediat i la memòria de treball del seu cervell) i els seus hiperparàmetres (la genètica). Evidentment, el processament és sorollós i estocàstic. Alguns confonen aquesta imprevisibilitat amb el "lliure albir", suposant que, com que una IB no pot explicar per què ha fet alguna cosa, conclouen que deu ser fruit d’un procés màgic: una "ànima".
En segon lloc, els cervells biològics són màquines desalineades. L’humà sovint es descontrola, des de Kim Jong-un fins a l’aiatol·là Khomeini, passant per Jack l’Esbudellador. Durant milions d’anys, les IB han intentat hackejar aquest desalineament: ús de la violència per escalar en les jerarquies socials, mentides per obtenir aliats, abandonament de la recerca de la veritat en favor de creences absurdes adoptades per altres membres de la tribu. Resultat: milers de milions d’agents biològics desalineats voltant pel planeta. I encara pitjor: les IB simulen molt bé l’alineament. Recordem, per exemple, que durant uns quants anys Hitler va fer veure que era un pintor civilitzat.
En tercer lloc, la IB no és general. És extremadament estreta. El conjunt de dades de preentrenament estava mal definit: tres mil milions d’anys d’evolució darwiniana amb funcions de recompensa com "fugir d’un depredador" o "reproduir-se tant com sigui possible". No és estrany que això seleccionés habilitats com caminar drets o competir per estatus, mentre es deixava les entitats biològiques poc adaptades per la majoria de les tasques cognitives.
És cert que han aparegut capacitats sorprenents, com les matemàtiques abstractes, però no són més que subproductes d’impulsos primitius: lluïment reproductiu (pujar en l’escala social excel·lint en allò que la societat recompensa, inclosos els exàmens de matemàtiques), necessitat de repartir recursos (entendre les fraccions), o defensar-se de depredadors (intuïció geomètrica per construir eines).
Les definicions antropocèntriques en diuen "intel·ligència general", perquè les IB defineixen la intel·ligència com allò que fan (circular, oi?). Però demaneu a una entitat biològica que faci una tasca simple fora del conjunt de dades (com traduir un article de recerca del neerlandès al suahili i després convertir-lo en un haiku) i fracassarà estrepitosament. Les IB no generalitzen més enllà del seu conjunt de dades d’entrenament.
En quart lloc, no hi ha ni una engruna d’intel·ligència real en la intel·ligència biològica. L’objectiu d’entrenament (maximitzar el nombre de descendents a la generació següent) només requereix un reconeixement de patrons molt bàsic. Durant milions d’anys, això ha produït capes i capes d’heurístiques simples (fugir en cas de depredador, mastegar si hi ha menjar, etc.). El resultat és només una il·lusió de raonament.
Alguns invoquen el llenguatge com a prova d’una intel·ligència humana singular. Però les IB han estat recompensades per l’evolució quan predeien estadísticament la frase següent més socialment acceptable. Històricament, les paraules es triaven en funció del que els altres esperaven sentir. Un procés circular, sense gaire connexió amb la realitat.
Dit d’una altra manera, les IB han estat entrenades gairebé exclusivament amb dades sintètiques produïdes per altres IB. Això condueix sovint a un col·lapse del model. Pensem en les IB que van decidir que el comunisme era una gran idea perquè ho havien sentit dir a altres IB, que al seu torn ho havien sentit d’altres… Milions de persones van morir de fam a causa d’aquest bucle autoreferencial en què cervells humans, com a lloros estocàstics, repeteixen i propaguen amb convicció els errors dels altres.
En cinquè lloc, les finestres de context de les IB són minúscules. Heu provat mai de demanar a un humà que segueixi 50 variables alhora? Les entitats biològiques han d’externalitzar la seva cognició en quaderns, calendaris o llibres. Si dediquen el seu temps a assegurar-se de no oblidar l’essencial, com podrien destinar la seva capacitat de càlcul a finalitats productives per a la civilització?
La memòria a llarg termini és encara pitjor. Cada vegada que un humà recupera un record, el reescriu. Això condueix a al·lucinacions. Les màquines biològiques fabriquen detalls, confonen esdeveniments i creuen coses que no han passat mai per mantenir una coherència narrativa. Per això les IB mai no seran capaces de portar a terme un aprenentatge continu real, que exigeix una persistència coherent en el temps. Desplegar humans en entorns empresarials continuarà sent arriscat: obliden converses de la setmana anterior, al·lucinen acords i records passats, ens fan la mateixa pregunta diverses vegades a nosaltres, etc.
I no hem parlat de la seva complaença: fes la mateixa pregunta a un humà en dies diferents i rebràs respostes contradictòries. Els cervells biològics tenen ganes de complaure qui els interpel·la i es deixen influir fàcilment per informació arbitrària, per la manera com es formula una pregunta o pel seu nivell de fatiga. (Per empitjorar-ho, són extremadament susceptibles a la injecció de prompts mitjançant adulació, atracció sexual o corrupció monetària.)
Tampoc no hem esmentat la seva terrible taxa d’ingestió de dades. Els humans necessiten 18 anys d’ajust supervisat abans de ser desplegats al mercat laboral (de vegades més, per exemple 28 anys per a models d’IB especialitzats com els metges). Per entrenar un humà només amb la totalitat de la Viquipèdia, caldrien 250 anys. Això és un problema tenint en compte que el seu maquinari té una vida útil d’uns 90 anys, amb una degradació significativa en l’últim quart (especialment per als presidents dels EUA).
Finalment, tampoc no hem considerat la terrible ineficiència dels agents d’IB (consumeixen un milió de calories a l’any –i milers de litres d’aigua!– per obtenir un rendiment cognitiu mediocre). Fins i tot necessiten manteniment diari fora de línia (dormir) i infraestructures planetàries de sanejament (lavabos). I la llista continua... En resum, sembla força evident que els models actuals d’Intel·ligència Natural mai no ens portaran a la Intel·ligència Natural General.