Fa unes setmanes els parlamentaris i el Consell de la Unió Europea van arribar a un acord provisional per la futura Llei d’Intel·ligència Artificial. D’aquesta forma, ens posicionem com el primer continent en regular la IA, sent referents mundials, com ja va succeir amb el reglament del RGPD.
Aquest acord té com a objectiu garantir els drets fonamentals, l’Estat de dret, la democràcia i la sostenibilitat ambiental enfront de la IA d’alt risc, mentre fomenta la innovació i posiciona a Europa com a líder en aquest àmbit.
Us resumim els punts a destacar d’aquest acord i les normes que han establert per regular la IA segons els riscos i el grau d’impacte:
Qui ha d’aplicar aquesta nova llei?
L’acord aclareix que no s’aplica a àrees fora del Dret de la UE, ni afecta les competències dels Estats membres en seguretat nacional. A més, aquest reglament no s’aplicarà als sistemes de IA utilitzats exclusivament per militats, defensa, investigació i innovació. Com tampoc per les persones que usen la IA de forma no professional.
Classificació com alt risc i pràctiques prohibides:
S’hauran de classificar els sistemes d’intel·ligència artificial d’alt risc i aquests tindran unes obligacions específiques. D’aquesta forma, es garanteix que no s’incloguin en aquesta classificació sistemes de la IA que no provoquen violacions greus dels drets fonamentals, ni suposin altres riscos.
Els sistemes de la IA que tinguin un risc limitat tindran obligacions de transparència molt lleus, com, per exemple, deixar clar que el contingut s’ha generat mitjançant la IA.
A més, es prohibirà l’ús de la intel·ligència artificial quan els riscos es considerin inacceptables. Per exemple, utilitzant la IA per la manipulació cognitiva conductual, el rastreig indiscriminat d’imatges facials d’internet, el reconeixement d’emocions, la categorització biomètrica que dedueix dades sensibles o la vigilància policial predictiva.
Quines excepcions té l’àmbit policial?
Donada la necessitat de les autoritats policials d’utilitzar la IA en algunes feines essencials, es van acordar vàries modificacions, subjectes a les salvaguardes oportunes, amb l’objectiu de respectar la confidencialitat de les dades operatives delicades que es tractin en les seves activitats.
Per exemple, permeten que en un cas d’urgència els organismes policials puguin desplegar una eina de IA d’alt risc que no hagi superat el procediment d’avaluació de la conformitat.
També s’acorda fer restriccions a la identificació biomètrica remota en espais públics. Encara que aquesta es faci amb excepcions en els casos de víctimes de delictes de prevenció d’amenaces reals, presents o previsibles, com podrien ser atemptats terroristes i de recerca de persones sospitoses de delictes molt greus.
Sistemes de IA d’ús general i models fundacionals
A l’acord s’afegeixen vàries situacions i casos específics a tenir en compte en les que els sistemes de IA d’ús general s’utilitzen amb diferents fins.
A partir d’unes normes específiques es regulen els sistemes de IA d’ús general i els models fundacionals, que serien aquells que són capaços de realitzar moltes tasques com: la generació de textos, imatges o vídeos, la conversió en llenguatge lateral, la informàtica o la generació de codis informàtics.
A més, els models fundacionals hauran de complir unes obligacions específiques en matèria de transparència abans d’introduir-se al mercat.
També s’estableix un règim més estricte per aquells models fundacionals de gran impacte, que són entrenats amb una quantitat molt elevada de dades i que són més complexes, i tenen capacitats avançades i resultats superiors.
Nova estructura de governança
Donada la necessitat de garantir el compliment d’aquestes normes, es crea una oficina de IA a la Comissió per supervisar els models de IA més avançats, fomentar que es compleixin les normes i es facin les pràctiques necessàries d’assaig.
A més, un panell científic d’experts independents assessorarà l’oficina de IA sobre els models de IA d’ús general i sobre l’aparició de models fundacionals de gran impacte i supervisant els possibles riscos de seguretat.
També es crearà un Comitè de IA que està format amb representants dels Estats membres, i que serà l’encarregat d’aplicar el Reglament als diferents Estats.
Finalment, es crearà un fòrum consultiu pels interessats, com poden ser les pimes, representants de la indústria, empreses emergents, societat civil o el món acadèmic, que aportaran coneixements tècnics al Comitè de IA.
Quines sancions poden haver-hi?
Les multes per infringir el Reglament d’Intel·ligència Artificial seran basades en el percentatge del volum de negocis anual global de l’empresa que hagi comès la infracció.
Aquestes sancions podrien elevar-se a 35 milions d’euros, és a dir, el 7% per les infraccions d’aplicacions de IA prohibides, 15 milions d’euros o el 3% per l’incompliment de les obligacions del Reglament d’Intel·ligència Artificial i 7,5 milions d’euros o l’1,5% per la presentació d’informació inexacta.
Evidentment, haurà límits més proporcionats per les pimes i les empreses emergents. I es podrà presentar reclamacions davant l’autoritat de vigilància del mercat pertinent.
Transparència i protecció de drets fonamentals:
– Avaluació de l’impacte en drets fonamentals abans de la introducció de sistemes de IA d’alt risc.
– Major transparència en l’ús de sistemes de IA d’alt risc.
– Determinats usuaris d’un sistema de IA d’alt risc estaran obligats a registrar-se a la base de dades de la UE de sistemes de IA d’alt risc.
– Els usuaris d’un sistema de reconeixement d’emocions estaran obligats a informar a les persones físiques a les quals s’exposin a aquest tipus de sistemes.
Quan entrarà en vigor aquesta llei?
Aquest acord estableix que el Reglament d’Intel·ligència Artificial haurà d’aplicar-se dos anys després de la seva entrada en vigor. Sempre tenint en compte algunes excepcions.
Per tant, entrarà en vigor per complet el 2026, amb una aplicació gradual.
Quines són les següents fases d’aquesta llei?
Després de l’acord provisional que es va llançar fa uns dies, durant les pròximes setmanes continuaran ultimant detalls. I una vegada terminats aquests últims treballs es presentarà el text als representants dels Estats membres.
Les dues institucions hauran de confirmar el text i se sotmetrà a una formalització jurídic-lingüística abans d’adoptar-ho formalment.
Aquest acord és un pas molt important per la regulació de la IA i per respectar els drets dels ciutadans. Quan tinguem més informació sobre aquesta temàtica, us informarem amb més detall.
L’equip de Pyme Legal