09
de desembre
del
2023
Actualitzat
a la
13:39h
El Consell de la Unió Europea i el Parlament Europeu (PE) han tancat aquest divendres a la nit un acord històric sobre la regulació de la intel·ligència artificial (IA), el primer del món per davant dels Estats Units. Els negociadors dels dos colegisladors han aconseguit finalment arribar a un consens després que les converses haguessin quedat encallades sobre els límits de les dades biomètriques. "La regulació busca garantir que els sistemes d'IA existents i utilitzats a la Unió Europea (UE) són segurs i respecten els drets fonamentals i els valors europeus", ha apuntat la presidència espanyola de torn de la UE, l'encarregada de dirigir les negociacions.
Després de quasi 40 hores de converses, la norma ofereix un enfocament basat en el risc que categoritza els diferents nivells que presenta la IA. Les restriccions estan alineades en funció de l'escala d'aquest risc pel seu important impacte en la salut, la seguretat, els drets fonamentals, el medi ambient i l'estat de dret, la qual cosa implica la prohibició en casos d'amenaça "inassumible", com el reconeixement d'emocions, sistemes de puntuació social o sistemes que manipulen el comportament.
El Consell i el PE van tancar un acord dijous sobre les normes per a sistemes fundacionals o generatius d'intel·ligència artificial, com ChatGPT, però les converses es van encallar en els límits sobre les dades biomètriques, i les negociacions, que s'havien allargat durant la nit, es van suspendre fins a l'endemà al matí. El resultat, te l'expliquem en quatre claus:
Aquest era un dels punts més conflictius i que quedava per tancar aquest divendres, ja que alguns actors en la negociació consideraven que usar la IA en aquest àmbit podia arribar a vulnerar drets fonamentals. No obstant això, finalment s'han superat els esculls qualificant els casos comentats com a "alt risc" i reduint-los a una estricta sèrie d'excepcions. La presidència de torn espanyola a la UE ha subratllat aquesta idea en una declaració als mitjans: "Aquest canvi no suposa que es podrà fer el que es vulgui". En ser considerats casos d'alt risc, també se'ls acompanya d'estrictes salvaguardes com comptar amb avaluacions d'impacte en els drets fonamentals.
Una altra de les claus ha estat com introduir regles específiques per als models fundacionals, com les plataformes ChatGPT o DALL-E, que van veure la llum després que la Comissió Europea (CE) presentés la seva primera proposta de regulació, per la qual cosa aquest capítol s'ha anat desenvolupant en el curs de les converses. A menor escala, però potser la que implica més el dia a dia de la ciutadania, hi trobem la necessitat que hi haurà a partir de la seva entrada en vigor d'informar quan un text o imatge estigui fet amb IA.
Les negociacions entre el PE i el Consell per tancar la normativa sobre intel·ligència artificial van començar el juliol. Els dos colegisladors van tancar ja al setembre un acord sobre quines pràctiques d'intel·ligència artificial es consideraven d'alt risc i, per tant, s'havien de prohibir a la UE. Des d'aleshores, quedaven per pactar els aspectes més controvertits de la regulació: l'ús de la vigilància biomètrica en temps real i la regulació dels nous sistemes d'IA generativa, com ChatGPT. L'acord encara ha de ser ratificat pel ple del PE i el Consell amb l'objectiu que la llei entri en vigor el 2026.
La presidenta del Parlament Europeu, Roberta Metsola, ha reaccionat a les xarxes socials immediatament després del pacte per celebrar el "moment històric" que representa que la UE tingui una legislació "avantguardista, responsable, integral i que marcarà estàndards globals". Mentrestant, la cap de l'executiu comunitari, Ursula von der Leyen, ha destacat que és un marc legal que permetrà "el desenvolupament d'una intel·ligència artificial en què es pot confiar".
Juntament amb un gràfic per destacar que Europa és l'única regió del món amb una regulació específica, el comissari d'Indústria i Serveis Digitals, el liberal francès Thierry Breton, ha escrit a xarxes: "Acord!". Per la seva banda, la vicepresidenta de la CE encarregada de l'estat de dret, Věra Jourová, s'ha mostrat orgullosa que la nova llei d'IA sigui "el porter a la festa de la innovació que deixa entrar només a les intel·ligències artificials més genials, segures i responsables".
Després de quasi 40 hores de converses, la norma ofereix un enfocament basat en el risc que categoritza els diferents nivells que presenta la IA. Les restriccions estan alineades en funció de l'escala d'aquest risc pel seu important impacte en la salut, la seguretat, els drets fonamentals, el medi ambient i l'estat de dret, la qual cosa implica la prohibició en casos d'amenaça "inassumible", com el reconeixement d'emocions, sistemes de puntuació social o sistemes que manipulen el comportament.
El Consell i el PE van tancar un acord dijous sobre les normes per a sistemes fundacionals o generatius d'intel·ligència artificial, com ChatGPT, però les converses es van encallar en els límits sobre les dades biomètriques, i les negociacions, que s'havien allargat durant la nit, es van suspendre fins a l'endemà al matí. El resultat, te l'expliquem en quatre claus:
- La supervisió biomètrica en temps real, com la que fan servir les càmeres de reconeixement facial en espais públics, es limitarà en temps, ubicació i determinats casos que tinguin una ordre judicial. Així, només s'utilitzarà en cerques selectives de víctimes de segrest, tràfic de persones, explotació sexual, per evitar una amenaça terrorista i per localitzar o identificar un sospitós d'haver comès un delicte dels recollits a la norma.
Aquest era un dels punts més conflictius i que quedava per tancar aquest divendres, ja que alguns actors en la negociació consideraven que usar la IA en aquest àmbit podia arribar a vulnerar drets fonamentals. No obstant això, finalment s'han superat els esculls qualificant els casos comentats com a "alt risc" i reduint-los a una estricta sèrie d'excepcions. La presidència de torn espanyola a la UE ha subratllat aquesta idea en una declaració als mitjans: "Aquest canvi no suposa que es podrà fer el que es vulgui". En ser considerats casos d'alt risc, també se'ls acompanya d'estrictes salvaguardes com comptar amb avaluacions d'impacte en els drets fonamentals.
- Els sistemes d'intel·ligència artificial utilitzats per influir en el resultat de les eleccions i el comportament dels votants també es classifiquen com d'alt risc, i la ciutadania tindrà dret a partir d'ara a presentar queixes i rebre explicacions.
- La legislació preveu sancions per als incomplidors, que aniran des dels 35 milions d'euros o el 7 % del volum de negoci global fins als 7,5 milions, en funció de la mida de la companyia.
Una altra de les claus ha estat com introduir regles específiques per als models fundacionals, com les plataformes ChatGPT o DALL-E, que van veure la llum després que la Comissió Europea (CE) presentés la seva primera proposta de regulació, per la qual cosa aquest capítol s'ha anat desenvolupant en el curs de les converses. A menor escala, però potser la que implica més el dia a dia de la ciutadania, hi trobem la necessitat que hi haurà a partir de la seva entrada en vigor d'informar quan un text o imatge estigui fet amb IA.
- L'objectiu d'aquesta pionera regulació europea és fixar estàndards de seguretat i de drets fonamentals que evitin que la tecnologia s'utilitzi amb finalitats repressives, de manipulació o discriminatòries, però sense que es tradueixi en una hiperregulació que resti competitivitat a la Unió.
Les negociacions entre el PE i el Consell per tancar la normativa sobre intel·ligència artificial van començar el juliol. Els dos colegisladors van tancar ja al setembre un acord sobre quines pràctiques d'intel·ligència artificial es consideraven d'alt risc i, per tant, s'havien de prohibir a la UE. Des d'aleshores, quedaven per pactar els aspectes més controvertits de la regulació: l'ús de la vigilància biomètrica en temps real i la regulació dels nous sistemes d'IA generativa, com ChatGPT. L'acord encara ha de ser ratificat pel ple del PE i el Consell amb l'objectiu que la llei entri en vigor el 2026.
La presidenta del Parlament Europeu, Roberta Metsola, ha reaccionat a les xarxes socials immediatament després del pacte per celebrar el "moment històric" que representa que la UE tingui una legislació "avantguardista, responsable, integral i que marcarà estàndards globals". Mentrestant, la cap de l'executiu comunitari, Ursula von der Leyen, ha destacat que és un marc legal que permetrà "el desenvolupament d'una intel·ligència artificial en què es pot confiar".
Juntament amb un gràfic per destacar que Europa és l'única regió del món amb una regulació específica, el comissari d'Indústria i Serveis Digitals, el liberal francès Thierry Breton, ha escrit a xarxes: "Acord!". Per la seva banda, la vicepresidenta de la CE encarregada de l'estat de dret, Věra Jourová, s'ha mostrat orgullosa que la nova llei d'IA sigui "el porter a la festa de la innovació que deixa entrar només a les intel·ligències artificials més genials, segures i responsables".