Deu estudiants de la Universitat de Girona (UdG) han identificat quines eines i aplicacions són més efectives per detectar fake news i vídeos manipulats. L'alumnat cursa diferents graus a la facultat de Ciències Econòmiques i Empresarials; en concret, són alumnes voluntaris de tercer o quart d'Economia, d'Administració i Direcció d'Empreses (ADE), o bé, del doble grau. Els universitaris han analitzat amb detall, durant mig any, fins a 21 programaris basats en la intel·ligència artificial (IA).
La investigació ha consistit a fer una autèntica radiografia dels diversos programaris, per tal de veure si detectaven notícies falses de l'àmbit econòmic o bé vídeos hipertrucats, els deepfake. La recerca ha conclòs que Google Gemini l'eina més completa i fiable per dur a terme aquesta tasca. La professora que ha guiat el projecte, Anna Carbonell, ha explicat que "el resultat no tan sols ajuda a evitar ciberestafes, sinó que es pot aplicar per verificar tots els continguts que circulen per xarxes". Carbonell imparteix l'assignatura de Màrqueting Digital.
Segons dades dels Mossos d'Esquadra, a Catalunya de mitjana cada mes es denuncien estafes que en conjunt acaben sumant imports d'entre 12 i 15 milions d'euros. I la immensa majoria -per no dir-ne gairebé totes- tenen lloc en entorns digitals. Com a esquer, sovint els ciberdelinqüents se serveixen de les fake news o dels deepfake; aixó és, notícies falses intencionades o vídeos falsejats de personatges famosos que, per exemple, anuncien inversions amb rendibilitats molt elevades en poc temps.
L'auge d'aquestes ciberestafes, de vegades tan sofisticades que costa discernir entre la veritat i la mentida, ha portat el Col·legi d'Economistes de Catalunya a publicar un estudi específic per alertar tant les empreses com la ciutadania dels riscos que comporta caure al parany. Com a part d'aquest informe, el col·legi va encarregar a la facultat de Ciències Econòmiques i Empresarials de la UdG que analitzés quines eines basades en la IA són més efectives per lluitar contra aquestes mentides.
Així, durant sis mesos, els universitaris han analitzat fins a 21 programaris diferents i han posat a prova la seva capacitat per verificar continguts, tant de text com audiovisuals (gràfics, fotografies, vídeos i àudios). Dins el llistat, n'hi ha de coneguts com ara ChatGPT o Gemini de Google, però també d'altres més específics -i no tan populars- com ara Vastav, GPT Zero, Hive AI, Just Done, My AI Detector, Newsguard, Perplexity AI, SurfSafe o Scribb.
Gemini, la més "completa i robusta"
A l'hora d'establir un rànquing, l'estudi fa una diferenciació per continguts. Així, si s'analitzen textos exclusivament, GPT Zero és una de les opcions més adequades. Ara bé, en el cas d'imatges i àudio, destaca IsFakeIA i, pel que fa a continguts audiovisuals, la solució més fiable per detectar vídeos manipulats és Vastav.
Tot i això, més enllà dels programaris especialitzats, la investigació també conclou que l'eina transversal -és a dir, per a tot tipus de continguts- que s'ha erigit com la més "completa i robusta" és Gemini. Segons concreta Helena Garcia, estudiant d'ADE, "la intel·ligència artificial de Google analitza amb precisió mil·limètrica si un contingut és real o bé ha estat manipulat" perquè, a més d'analitzar tècnicament els arxius, també els contrasta amb dades en temps real amb la intenció d'establir si aquell missatge és coherent en comparació amb registres oficials i fonts d'actualitat.
De fet, Gemini arriba a detectar fins i tot aquella signatura digital -com una marca d'aigua- que és imperceptible i que permet saber si aquell contingut s'ha creat amb IA o bé és real. A més, a diferència d'altres programaris, a l'hora de fer la recerca, no cal que l'usuari doni instruccions molt precises (prompt, en anglès). Gemini també té els avantatges de ser molt accessible integrat dins l'ecosistema de Google, disposar d'una versió gratuïta i ser fàcil en el maneig.
Finalment, l'estudi fet pels universitaris conclou que Perplexity AI també és una eina "altament eficient" i fa una menció especial a Verificat, la plataforma de verificació de fets nascuda a Catalunya, de què reconeix la tasca a l'hora de desmuntar notícies falses. Tot i que l'informe que han fet els estudiants de la UdG s'hagi circumscrit a l'àmbit econòmic, els seus resultats són aplicables arreu.
Radiografia amb detall
De cadascuna de les eines basades en la IA, els estudiants de la UdG n'han fet una autèntica radiografia amb detall. Partint d'un corpus de 100 notícies falses, i també d'altres de verídiques, els universitaris han testejat cadascun dels programaris. Ho han fet en diferents idiomes (català, castellà i anglès) i també amb dispositius diversos com, per exemple, ordinadors, tauletes i mòbils.
David Domingo, estudiant de quart d'ADE, ha exposat que s'han analitzat "un munt de variables; per exemple, si els resultats que donaven eren homogenis quan la pregunta la feien diferents persones, el temps de resposta, si l'eina era intuïtiva o no i si donava un veredicte amb claredat". Domingo ha precisat, a més, que el fet de barrejar fake news i notícies verídiques ha permès d'esbrinar "si el programari s'equivocava a l'hora de detectar-les".
