Nueva Ley Europea de Inteligencia Artificial (IA)
Bajo la Presidencia española del Consejo de la UE, el pasado 9 de diciembre se aprobó la primera Ley de Inteligencia Artificial (Artificial Intelligence Act) del mundo.
El acuerdo alcanzado por Parlamento y Consejo europeos cuenta con los siguientes elementos relevantes:
- Reglas sobre modelos de IA de propósito general de alto impacto que pueden causar riesgo sistémico en el futuro, así como sobre sistemas de IA de alto riesgo.
- Un sistema revisado de gobernanza con algunos poderes de ejecución a nivel de la UE.
- Ampliación de la lista de prohibiciones, pero con la posibilidad de utilizar la identificación biométrica remota por parte de las autoridades encargadas de hacer cumplir la ley en espacios públicos, sujeto a salvaguardias.
- Una mejor protección de los derechos fundamentales mediante la obligatoriedad de realizar una evaluación de impacto antes de la implementación de sistemas de IA.
Se autoriza una amplia gama de sistemas de IA de alto riesgo, sujetos a una serie de requisitos y obligaciones para acceder al mercado de la UE. Estos requisitos han sido re-ajustados por los legisladores de tal manera que sean más viables técnicamente y menos gravosos de cumplir para las partes interesadas, por ejemplo, en lo que respecta a la calidad de los datos o en relación con la documentación técnica que debe ser elaborada por PYMEs para demostrar que sus sistemas de IA de alto riesgo cumplen los requisitos.
Para algunos usos de la IA, el riesgo se considera inaceptable y, por lo tanto, estos sistemas serán prohibidos en la UE.
El acuerdo provisional prohíbe:
- La manipulación cognitivo-conductual.
- La eliminación no selectiva de imágenes faciales de Internet o imágenes de CCTV.
- El reconocimiento de emociones en el trabajo o instituciones educativas.
- La puntuación social.
- La biometría para inferir datos como orientación sexual o religión.
- Algunos casos de vigilancia policial predictiva para individuos.
Enlaces relacionados:
Servicios INTRICOM > Consultoría tecnológica
Presidencia española del Consejo de la UE > Ley de inteligencia artificial
