La fi dels treballs amb IA? Google presenta un nou programari que aplica marques d'aigua als textos

Els autors han desenvolupat un algoritme de mostreig capaç de senyalitzar els continguts generats per la seva eina d'intel·ligència artificial per fer-ho reconeixible

El nou software de Google podria detectar els textos generats amb l'eina d'intel·ligència artificial ChatGPT
El nou software de Google podria detectar els textos generats amb l'eina d'intel·ligència artificial ChatGPT | Aina Martí / ACN
Redacció
23 d'octubre de 2024, 20:14
Actualitzat: 20:14h

Les eines d'intel·ligència artificial de model de llenguatge extens han arribat per quedar-se. La més coneguda és ChatGPT, que et permet crear a través del seu algoritme, textos desenvolupats sobre qualsevol temàtica. El seu ús esdevé una preocupació quan algú s'apropia d'un text que ha sigut generat per intel·ligència artificial. Doncs bé, un programari creat per un equip d'investigadors de Google podria acabar amb aquesta mala praxi.

El projecte, liderat per Sumanth Dathathri i Pushmeet Kohli del laboratori DeepMind, ha creat una eina que afegeix marques d'aigua a textos generats per models de llenguatge extens. D'aquesta manera, s'aconsegueix millorar la capacitat per identificar i rastrejar continguts creats per intel·ligència artificial. En un article publicat a la revista Nature, els investigadors expliquen detalladament aquest programari, conegut com a SynthID-Text. En aquest sentit, l'algoritme introdueix petits canvis en els textos, com canviar algunes paraules, que funcionen com una signatura per evitar l'apropiació del contingut. Llavors, amb el programari de detecció de la IA és possible reconèixer amb més fiabilitat si un text és propi o no.

La implantació d'aquest programari és complicada. En imatges, vídeos o àudios és relativament senzill inserir marques d'aigua, però amb els textos és una mica diferent. Així és perquè si alteres les paraules, canviant-ne algunes, pot minvar clarament la qualitat i el significat del contingut. Segons els científics, l'ús de SynthID-Text té a més un impacte insignificant en la potència de càlcul necessària per executar ells models de llenguatge extens (LLM), cosa que pot facilitar la seva implementació. A més, actualment encara és molt difícil detectar si un document ha estat generat per IA. Per tant, les tecnologies que facilitin la identificació de l'autoria dels continguts són molt necessàries.

Aquesta nova eina només s'ha provat amb el model de llenguatge extens de Google, Gemini, operativa des del 13 de desembre del 2023. Ara bé, aquest programari es podria estendre cap a altres tecnologies com ChatGPT esdevenint un canvi radical en la forma d'utilitzar aquest tipus d'intel·ligència artificial. No obstant això, comenten que han de seguir treballant perquè aquestes marques d'aigua siguin indetectables per l'ull humà, ja que si no podria suposar la pèrdua d'alguns dels seus usuaris. A més, els desenvolupadors de l'eina han explicat a el.Diario.es, que "és un primer pas més per millorar la transparència de l'ús responsable de la intel·ligència artificial.