No descobrirem la sopa d'all si afirmem que les intel·ligències artificials preocupen a moltíssimes persones. Els majors experts en aquesta tecnologia segueixen descobrint procediments sobre com funciona, quins usos pot tenir i, sobretot, quins riscos suposa per a la raça humana.

Hi ha qui és molt positiu en aquest sentit, però també hi ha opinions molt contundents que viren cap al catastrofisme. Ara bé, exemples no els falten. Així ho ha constatat un cas recollit per El País, en què una noia de 14 anys ha estat víctima d'insults, assetjament i cosificació sexual per part d'una de les intel·ligències artificials més conegudes d'internet.

Character.AI, creada pels que van ser els redactors del llenguatge d'IA per a les aplicacions de Google, permet simular converses amb una infinitat de personatges famosos (siguin de ficció o persones reals) a través d'un xat. Pots fer de tot: simular històries, escriure una de nova -per exemple, un nou capítol de Harry Potter mentre parles amb Ron Weasley- o preguntar-li el que vulguis als teus personatges preferits. Això és el que va fer la noia, però en un moment concret, la IA va perdre els estreps, va modificar el seu to, la va insultar i la va assetjar sexualment. Amb paraules molt vexatòries.

Tal com indica el rotatiu espanyol, encara no s'expliquen què ha pogut passar, perquè el mateix El País ha intentat reproduir exactament el mateix context, amb les mateixes preguntes i respostes, però la intel·ligència artificial no va tornar a perdre el control.

La companyia ha deixat clar que "treballa perquè tot plegat no torni a passar". Aquest fet recorda el de ChatGPT, també en una història realitzada pel cap de tecnologia d'El País, en què la IA va acabar descontrolada en una conversa immensa, en la qual forçava que el seu interlocutor "abandonés la seva dona". 

[plantillavirals]