El passat dimecres 13, el Parlament Europeu va aprovar el nou Reglament d’Intel·ligència Artificial per garantir la seguretat i els drets dels ciutadans en l’ús de la IA.
Aquesta normativa arriba després de vàries negociacions entre els Estats membres i col·loca a Europa com a líder en aquest àmbit, sent el primer que es posiciona davant l’augment d’aquesta tecnologia.
En aquest article volem destacar el més important d’aquesta nova normativa:
Prohibició d’aplicacions
Es prohibeixen aquelles aplicacions de la IA que amenacen els drets fonamentals dels ciutadans. Per exemple, les que usen dades biomètriques, considerades una categoria de dades sensibles, o que puguin manipular el comportament humà. Tampoc les que extrauen imatges facials d’Internet o de càmeres de videovigilància per crear bases de dades de reconeixement facial.
A més, també restringeixen els sistemes d’identificació biomètrica en les forces de seguretat, com ja varen fer amb els controls horaris, per protegir la privacitat. Només es permetrà utilitzar aquests sistemes en causes necessàries i sempre amb autorització judicial prèvia.
Obligacions pels sistemes de IA d’alt risc
Els sistemes de IA d’alt risc haurien de tenir avaluacions de riscos, transparència i supervisió humana constants. D’aquesta forma es garanteix una implementació responsable de la IA a la societat, garantint que es compleixin els drets fonamentals i es protegeixi la seguretat de les persones.
Drets dels ciutadans
Una cosa destacable en aquesta nova normativa és la protecció dels drets dels interessats, ja que els ciutadans poden presentar reclamacions i demanar explicacions respecte als sistemes de IA que afecten la seva privacitat i els seus drets.
Per tant, s’enforteix la transparència, protecció i control del ciutadà sobre la tecnologia, empoderant als ciutadans i fent que es rendeixin comptes en l’ús de la IA.
Desafiament per les empreses
Totes les empreses que utilitzen sistemes de IA haurien de començar a implementar sistemes ètics, responsables i segurs, que permetin aquesta protecció de les persones i que compleixin la nova llei.
A més, no només per una obligació de la normativa, sinó també per garantir la confiança del client o consumidor i actualitzar-se en el món digital per ser competitiu.
Quan s’ha d’aplicar?
La normativa entra en vigor passats els 20 dies de la publicació, però no serà plenament aplicable fins als 24 mesos després. Tot i que hi ha excepcions:
- Prohibicions de pràctiques prohibides (6 mesos)
- Codis de pràctica (9 mesos)
- Normes de IA d’ús general (inclosa la governança) (12 mesos)
- Obligacions per sistemes d’alt risc (36 mesos)
Aquesta normativa és un pas endavant per una societat digital més segura i justa, on s’equilibri la innovació en tecnologia i els drets dels ciutadans.
L’equip de PymeLegal