El passat 2 de febrer de 2025, la Unió Europea va publicar les primeres prohibicions de la Llei d’Intel·ligència Artificial (IA).
L’avanç de la intel·ligència artificial (IA) ha portat a la necessitat de regular el seu ús per a evitar abusos i protegir els drets fonamentals.
La Llei d’Intel·ligència Artificial de la Unió Europea (AI Act), que va entrar en vigor a l’agost de 2024, estableix un marc normatiu per a garantir un desenvolupament ètic i segur de la IA. Recentment, la Comissió Europea ha publicat les Directrius sobre Pràctiques Prohibides de IA, que detallen quins tipus d’aplicacions estan expressament prohibides dins del territori de la UE.
Quin és l’objectiu d’aquestes directrius?
Les noves directrius busquen aclarir la interpretació i aplicació de l’Article 5 de l’AI Act, que enumera pràctiques prohibides per considerar que vulneren drets fonamentals com la dignitat humana, la privacitat i la no discriminació.
A més, les directrius proporcionen exemples concrets perquè les autoritats nacionals i les empreses tecnològiques puguin garantir el compliment de la normativa.
Principals pràctiques prohibides en IA
Segons les directrius, les següents pràctiques de IA estan prohibides dins de la Unió Europea:
- Manipulació i engany – Art. 5(1)(a)
Es prohibeixen els sistemes de IA que utilitzen tècniques subliminals o manipulatives que puguin distorsionar el comportament de les persones de manera significativa i causar danys.
Exemple: algorismes que indueixen decisions perjudicials sense que l’usuari sigui conscient.
- Explotació de vulnerabilitats – Art. 5(1)(b)
Qualsevol IA que aprofiti vulnerabilitats de persones en situació de desavantatge, com a nens, persones amb discapacitat o en risc d’exclusió social, està prohibida.
Exemple: bots que exploten la ingenuïtat infantil per a obtenir informació personal.
- Puntuació social (Social Scoring) – Art. 5(1)(c)
Està prohibit l’ús de IA per a avaluar a les persones en funció del seu comportament social, generant conseqüències negatives desproporcionades en la seva vida quotidiana.
Exemple: sistemes de IA que atorguen privilegis o restriccions segons el comportament en xarxes socials.
- Predicció de delictes basada en perfilat – Art. 5(1)(d)
No es permet l’ús de IA per a avaluar el risc que una persona cometi un delicte basat exclusivament en el seu perfil o característiques personals sense proves objectives.
Exemple: algorismes que prediuen criminalitat basant-se en trets físics o dades personals sense context.
- Creació de bases de dades de reconeixement facial mitjançant “scraping” – Art. 5(1)(e)
Es prohibeix la recopilació massiva i no autoritzada d’imatges d’internet o càmeres de vigilància per a desenvolupar sistemes de reconeixement facial sense el consentiment de les persones.
- Reconeixement d’emocions en el lloc de treball o en escoles – Art. 5(1)(f)
Els sistemes de IA que detecten emocions en empleats o estudiants estan prohibits, excepte en situacions mèdiques o de seguretat justificades.
Exemple: programari que mesura l’estat emocional dels treballadors per a avaluar el seu acompliment.
- Classificació biomètrica basada en dades sensibles – Art. 5(1)(g)
Es prohibeix la categorització de persones sobre la base de dades biomètriques que revelin informació sobre la seva raça, opinió política, religió, orientació sexual, etc.
- Identificació biomètrica en temps real en espais públics – Art. 5(1)(h)
No es permet l’ús de IA per a vigilància massiva amb reconeixement facial en temps real, excepte excepcions molt concretes com la cerca de persones desaparegudes o amenaces de terrorisme.
Excepcions i control del compliment
Encara que aquestes pràctiques estan prohibides, existeixen excepcions limitades en situacions específiques on sigui necessari per a la seguretat pública i amb la deguda supervisió judicial.
A més, les autoritats nacionals seran responsables de fer complir aquestes normes i podran imposar sancions en cas d’incompliment.
Pròxims passos en aquesta Llei
Encara que la Llei de la IA va entrar en vigor l’1 d’agost de 2024, la seva aplicació total amb totes les restriccions no serà efectiva fins al 2 d’agost de 2026. No obstant això, hi ha excepcions en el calendari d’implementació:
- Des del 2 de febrer de 2025, ja estan en vigor les prohibicions i les obligacions d’alfabetització en matèria de IA.
- El 2 d’agost de 2025, començaran a aplicar-se les normes de governança i les obligacions per als models de IA d’ús general, com ChatGPT, que estan entrenats amb grans volums de dades i poden fer diverses tasques.
- A l’agost de 2026, entrarà en vigor la normativa per a les Administracions Públiques, mentre que els seus proveïdors tindran fins a 2030 per a adaptar-se.
- Fins al 2 d’agost de 2027, hi haurà un període de transició ampliat per als sistemes de IA que puguin representar riscos greus per a la salut, la seguretat o els drets fonamentals.
Aquestes mesures busquen garantir una implementació gradual i efectiva de la regulació, permetent a les empreses i administracions adaptar-se als nous requeriments sense comprometre la innovació tecnològica.
Amb aquesta normativa, la Unió Europea pretén liderar un enfocament ètic i responsable de la intel·ligència artificial, assegurant que el seu desenvolupament i aplicació respectin els drets fonamentals de les persones.
L’equip de PymeLegal