Noves exigències en l'ús de la intel·ligència artificial (IA). Aquest diumenge 2 d'agost entren en vigor noves obligacions de transparència previstes en la primera gran regulació de la IA de la Unió Europea, amb l'objectiu de reduir els riscos d'engany, manipulació i desinformació. Entre les principals novetats hi ha l'obligació que les empreses i organitzacions informin els usuaris quan un contingut hagi estat generat o manipulat amb aquesta tecnologia.
Les noves mesures s'emmarquen en la llei europea sobre intel·ligència artificial, aprovada el 2023, una normativa pionera al món que regula l'ús d'aquesta tecnologia segons el nivell de risc que comporta. El desplegament s'ha fet de manera progressiva: des del febrer del 2025 estan prohibides pràctiques com l'extracció massiva d'imatges facials o el reconeixement d'emocions en l'àmbit laboral i, des de l'agost passat, les plataformes d'IA generativa, com ChatGPT, han de respectar els drets d'autor.
Què canvia a patir d'ara?
En concret, les noves obligacions que entren en funcionament aquest diumenge afecten tant les empreses que desenvolupen sistemes d'intel·ligència artificial com les que els utilitzen. A partir d'ara, els proveïdors d'aquesta tecnologia -OpenAI amb ChatGPT, Anthropic amb Claude o Google amb Gemini- hauran de dissenyar els seus sistemes perquè informin explícitament els usuaris que estan interactuant amb una IA. Aquesta novetat també s'aplicarà als generadors d'imatges, com Midjourney, eines de síntesi de veu o qualsevol sistema que permeti l'ús de la IA per crear contingut.
D'altra banda, tots aquests proveïdors de sistemes també hauran d'incorporar mecanismes tècnics perquè, posteriorment, altres sistemes puguin identificar que un contingut ha estat generat o manipulat amb IA.
Quan caldrà identificar que un contingut està fet amb IA?
Pel que fa a les empreses, administracions o organitzacions que utilitzin aquests sistemes, aquestes hauran d'informar els usuaris en determinades situacions. Per exemple, quan facin servir sistemes de reconeixement d'emocions o de categorització biomètrica, quan difonguin continguts manipulats amb la tècnica dels deepfakes o quan publiquin textos generats per IA sobre assumptes d'interès públic sense revisió humana ni control editorial.
I en usos estrictament personals?
Les noves obligacions no afectaran els usos estrictament personals de la IA. És a dir, a WhatsApp, per ara, no caldrà que l'usuari avisi que està enviant un contingut generat per aquesta tecnologia. Per contra, sí que serà necessari fer-ho quan l'ús de la IA tingui una finalitat professional o comercial i hi hagi, per tant, un benefici econòmic.
Pel que fa a les xarxes socials, les directrius especifiquen que la responsabilitat de complir amb la normativa recaurà sobre els usuaris que creïn i publiquin el contingut generat amb IA, i no sobre la plataforma que el distribueix -com Instagram o Facebook-.
Fins a 15 milions de sancions
Si bé no s'ha especificat quina multa correspondrà a cada incompliment concret, sí que s'ha informat que el compliment de les noves obligacions serà supervisat per les autoritats competents de cada estat membre i per l'Oficina Europea d'Intel·ligència Artificial. Les infraccions, en aquest sentit, podran comportar sancions de fins a 15 milions d'euros o el 3% de la facturació anual mundial de l'empresa infractora.
Més restriccions a partir del desembre
El desplegament de la llei europea continuarà els pròxims mesos. A partir del 2 de desembre també quedarà prohibida la comercialització i l'ús de sistemes d'IA destinats a generar contingut sexualment explícit sense consentiment o material d'abús sexual infantil. Les empreses disposen fins a aquesta data per adaptar els seus sistemes a la nova normativa.
