La norma ofereix un enfocament basat en el risc que categoritza els diferents nivells que presenta la IA. Les restriccions estan alineades en funció de l'escala d'aquest risc pel seu impacte en la salut, la seguretat, els drets fonamentals, el medi ambient i l'estat de dret. Es poden recollir en els següents punts:
Es prohibiran aplicacions que suposin una amenaça
Qualsevol aplicació que processi dades biomètriques i que suposi una amenaça "inassumible", com el reconeixement d'emocions, sistemes de puntuació social o sistemes que manipulen el comportament, quedaran prohibides. Tot i això, hi haurà una sèrie de casos excepcionals considerats d'"alt risc" on es podrà recórrer a aquestes dades. En ser considerats casos com a amenaces, també se'ls acompanya d'estrictes salvaguardes com comptar amb avaluacions d'impacte en els drets fonamentals.Els sistemes d'intel·ligència artificial utilitzats per influir en el resultat de les eleccions i el comportament dels votants també es classifiquen com d'alt risc, i la ciutadania tindrà dret a partir d'ara a presentar queixes i rebre explicacions.
Les dades biomètriques, reduïdes a casos excepcionals
La supervisió biomètrica en temps real, com la que fan servir les càmeres de reconeixement facial en espais públics, es limitarà en temps, ubicació i determinats casos que tinguin una ordre judicial. Així, només s'utilitzarà en cerques selectives de víctimes de segrest, tràfic de persones, explotació sexual, per evitar una amenaça terrorista i per localitzar o identificar un sospitós d'haver comès un delicte dels recollits a la norma.La transparència serà obligatòria
Els sistemes basats en intel·ligència artificial hauran de comptar amb una determinada normativa de transparència. A més, de la mateixa manera que en altres punts de la llei, segons el grau de risc sobre els drets humans que suposi el sistema, se li aplicarà una normativa més o menys estricta.La llei europea també té un punt referent a les empreses propietàries d'eines basades en IA com Sora o ChatGPT. Se'ls obligarà a informar quins continguts han estat generats amb aquests sistemes i, alhora, a aclarir quins materials utilitzen per programar les eines en qüestió.
Sancions per als infractors
La legislació preveu sancions per als incomplidors, que aniran des dels 35 milions d'euros o el 7% del volum de negoci global fins als 7,5 milions, en funció de la mida de la companyia.Durant el debat que ha tingut lloc al Parlament Europeu aquest dimarts, el diputat Brando Benifei -un dels impulsors de la norma- ha apuntat que "Europa finalment compta amb la primera llei sobre la intel·ligència artificial, que busca reduir riscos, crear oportunitats, combatre la discriminació i garantir transparència". Alhora, ha exposat que l'Oficina Europea de la IA s'encarregarà d'ajudar i garantir que les empreses compleixin amb aquesta nova normativa.
D'altra banda, el també diputat al Parlament, DragoÈ™ Tudorache -que també ha participat de l'elaboració de la nova llei- ha celebrat que la Unió Europea "garanteixi que el concepte d'intel·ligència artificial respecti els drets fonamentals de les persones".
