L'aplicació ChatGPT és la "nova" eina d'intel·ligència artificial que s'ha fet viral gràcies a la seva capacitat de donar respostes encara més treballades que un simple cercador. Tot i la seva popularitat, els usuaris ja han començat a trobar-hi forats per on s'escola la seva credibilitat. I és que darrere de ChatGPT no hi ha res més que un bot que tot i millorar models anteriors en l'ús del llenguatge no disposa de cap actualització des de l'any 2021, és a dir, ja fa dos anys.

Les respostes obtingudes es poden aconseguir en format text formal, en vers, com si fos un acudit o fins i tot s'atreveix a escriure codi o a jugar a jocs. Tal com està dissenyat, el seu algorisme permet emular comportaments humans, mitjançant l'Aprenentatge Reforçat amb Resposta Humana (RLHF per les sigles en anglès), i això ha estat sembla un element clau per a la seva popularitat.

Haver après amb una quantitat ingent d'informació penjada a la xarxa implica alhora que els missatges d'odi i de discriminació es magnifiquen: la màquina no raona. És una de les conclusions a la que poden arribar els usuaris, malgrat que els seus creadors impedissin que el bot respongués a qüestions inadequades. OpenAI està en aquests moments experimentant mitjançant el seu llançament massiu els forats que té aquesta eina i, de pas, detectar-ne els usos nocius.

En tant que la seva prioritat com a aplicació és donar resposta i satisfer la necessitat de conversa de l'usuari, ara per ara ChatGPT s'inventa la informació que dona quan no la troba a la seva base de dades, i accepta errors que en realitat no ho són si així ho indica l'usuari. Segons els creadors "“ChatGPT de vegades escriu respostes plausibles però incorrectes o sense sentit. Solucionar aquest problema és complicat, ja que durant l'entrenament actualment no hi ha una font de veritat; entrenar el model perquè sigui més cautelós fa que rebutgi preguntes que pot respondre correctament; i l'entrenament supervisat enganya el model perquè la resposta ideal depèn del que sap el model, en lloc del que sap el demostrador humà”, assenyalen al lloc web. Tot i així, és una aplicació en període de prova, i un dels perills és confondre les respostes amb informació verídica que no calgui contrastar.

[noticiadiari]2/250020[/noticiadiari]