L'aplicació ChatGPT és la "nova" eina d'intel·ligència artificial que s'ha fet viral gràcies a la seva capacitat de donar respostes encara més treballades que un simple cercador. Tot i la seva popularitat, els usuaris ja han començat a trobar-hi forats per on s'escola la seva credibilitat. I és que darrere de ChatGPT no hi ha res més que un bot que tot i millorar models anteriors en l'ús del llenguatge no disposa de cap actualització des de l'any 2021, és a dir, ja fa dos anys.
Les respostes obtingudes es poden aconseguir en format text formal, en vers, com si fos un acudit o fins i tot s'atreveix a escriure codi o a jugar a jocs. Tal com està dissenyat, el seu algorisme permet emular comportaments humans, mitjançant l'Aprenentatge Reforçat amb Resposta Humana (RLHF per les sigles en anglès), i això ha estat sembla un element clau per a la seva popularitat.
Haver après amb una quantitat ingent d'informació penjada a la xarxa implica alhora que els missatges d'odi i de discriminació es magnifiquen: la màquina no raona. És una de les conclusions a la que poden arribar els usuaris, malgrat que els seus creadors impedissin que el bot respongués a qüestions inadequades. OpenAI està en aquests moments experimentant mitjançant el seu llançament massiu els forats que té aquesta eina i, de pas, detectar-ne els usos nocius.
En tant que la seva prioritat com a aplicació és donar resposta i satisfer la necessitat de conversa de l'usuari, ara per ara ChatGPT s'inventa la informació que dona quan no la troba a la seva base de dades, i accepta errors que en realitat no ho són si així ho indica l'usuari. Segons els creadors "“ChatGPT de vegades escriu respostes plausibles però incorrectes o sense sentit. Solucionar aquest problema és complicat, ja que durant l'entrenament actualment no hi ha una font de veritat; entrenar el model perquè sigui més cautelós fa que rebutgi preguntes que pot respondre correctament; i l'entrenament supervisat enganya el model perquè la resposta ideal depèn del que sap el model, en lloc del que sap el demostrador humà”, assenyalen al lloc web. Tot i així, és una aplicació en període de prova, i un dels perills és confondre les respostes amb informació verídica que no calgui contrastar.
[noticiadiari]2/250020[/noticiadiari]
Els inconvenients darrere de la intel·ligència artificial ChatGPT
Darrerament s'ha posat de moda gràcies a una prova experimental que l'ha fet molt popular entre els usuaris

- Recreació de la salutació d'una persona amb un sistema d'intel·ligència artificial -
- Europa Press
ARA A PORTADA
Publicat el 07 de gener de 2023 a les 17:10
Et pot interessar
-
Societat El temps d'aquest dijous 28 d'agost: 28 comarques en alerta per tempestes i forts ruixats
-
Societat Torna la mili? Per ara, no
-
Societat Restablerta l'alta velocitat entre Barcelona i Madrid després d'una hora suspesa per un incendi
-
Societat Recollida de firmes contra els canvis urbanístics per donar llum verda al Museu Thyssen a Barcelona
-
Societat Un treballador de la gelateria catalanòfoba de Gràcia denuncia que l'amo els prohibeix parlar en català
-
Societat Els minisupermercats es multipliquen a Barcelona: se n'han obert 1.250 en 10 anys