L'aplicació ChatGPT és la "nova" eina d'intel·ligència artificial que s'ha fet viral gràcies a la seva capacitat de donar respostes encara més treballades que un simple cercador. Tot i la seva popularitat, els usuaris ja han començat a trobar-hi forats per on s'escola la seva credibilitat. I és que darrere de ChatGPT no hi ha res més que un bot que tot i millorar models anteriors en l'ús del llenguatge no disposa de cap actualització des de l'any 2021, és a dir, ja fa dos anys.
Les respostes obtingudes es poden aconseguir en format text formal, en vers, com si fos un acudit o fins i tot s'atreveix a escriure codi o a jugar a jocs. Tal com està dissenyat, el seu algorisme permet emular comportaments humans, mitjançant l'Aprenentatge Reforçat amb Resposta Humana (RLHF per les sigles en anglès), i això ha estat sembla un element clau per a la seva popularitat.
Haver après amb una quantitat ingent d'informació penjada a la xarxa implica alhora que els missatges d'odi i de discriminació es magnifiquen: la màquina no raona. És una de les conclusions a la que poden arribar els usuaris, malgrat que els seus creadors impedissin que el bot respongués a qüestions inadequades. OpenAI està en aquests moments experimentant mitjançant el seu llançament massiu els forats que té aquesta eina i, de pas, detectar-ne els usos nocius.
En tant que la seva prioritat com a aplicació és donar resposta i satisfer la necessitat de conversa de l'usuari, ara per ara ChatGPT s'inventa la informació que dona quan no la troba a la seva base de dades, i accepta errors que en realitat no ho són si així ho indica l'usuari. Segons els creadors "“ChatGPT de vegades escriu respostes plausibles però incorrectes o sense sentit. Solucionar aquest problema és complicat, ja que durant l'entrenament actualment no hi ha una font de veritat; entrenar el model perquè sigui més cautelós fa que rebutgi preguntes que pot respondre correctament; i l'entrenament supervisat enganya el model perquè la resposta ideal depèn del que sap el model, en lloc del que sap el demostrador humà”, assenyalen al lloc web. Tot i així, és una aplicació en període de prova, i un dels perills és confondre les respostes amb informació verídica que no calgui contrastar.
[noticiadiari]2/250020[/noticiadiari]
Els inconvenients darrere de la intel·ligència artificial ChatGPT
Darrerament s'ha posat de moda gràcies a una prova experimental que l'ha fet molt popular entre els usuaris

- Recreació de la salutació d'una persona amb un sistema d'intel·ligència artificial -
- Europa Press
ARA A PORTADA
-
Pisos, IRPF i l'ombra del referèndum: les opcions d'Illa per calmar el Parlament i salvar Sánchez Lluís Girona Boffi | Bernat Surroca Albet
-
L'1x1 de l'oposició d'Illa: entre l'exigència dels socis i la xenofòbia ultra O. March / B. Surroca / Ll. Girona
-
Sacsejada d'ERC i els Comuns a Illa perquè acceleri en finançament i habitatge: «Se li acaba el temps» Lluís Girona Boffi | Bernat Surroca Albet
-
Junts posa en mans d'Illa el futur de la legislatura a Madrid: «Així no es pot continuar» Oriol March
-
Publicat el 07 de gener de 2023 a les 17:10
Et pot interessar
-
Societat Red Eléctrica demana aplicar canvis «urgents» per evitar una nova apagada
-
Societat El temps d'aquest dijous 9 d'octubre: alerta per pluges intenses a 22 comarques
-
Societat Plataforma per la Llengua i sindicats educatius insten el Govern a recuperar les tres hores de català al batxillerat
-
Societat Els joves catalans creients són més practicants que la gent gran
-
Societat Més de 4.000 euros: el preu mitjà d'un servei funerari a Catalunya
-
Societat Còctel d'aturades a Catalunya el 15 d'octubre: totes les vagues i mobilitzacions que coincideixen