El 11 de mayo, la Comisión de Mercado Interior y la Comisión de Libertades Civiles del Parlamento Europeo adoptaron un proyecto de mandato de negociación para regular la inteligencia artificial (IA). Este proyecto de mandato de negociación establece obligaciones para proveedores y usuarios en base al nivel de riesgo de la IA. Los sistemas con un nivel inaceptable para la seguridad de las personas estarían estrictamente prohibidos, incluidos los que implementan técnicas subliminales o manipuladoras, que explotan las vulnerabilidades o se utilizan para clasificar socialmente a las personas.
En las enmiendas a la propuesta de la Comisión Europea, se persigue garantizar que los sistemas de IA sean supervisados por personas y sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente, así como contar con una definición uniforme de IA, diseñada para ser tecnológicamente neutral, de modo que pueda aplicarse a los sistemas actuales y futuros.
Siguiendo la línea de estas enmiendas, el Parlamento Europeo ha incluido prohibiciones de usos intrusivos y discriminatorios de la IA, como los sistemas de identificación biométrica remota en tiempo real en espacios de acceso público y de identificación biométrica a distancia. En el último caso, se exceptúan las fuerzas de seguridad para la persecución de delitos graves y previa autorización judicial.
También se prohíben los sistemas de categorización biométrica que utilizan características sensibles (género, raza, etnia, estado civil, religión, orientación política, etc.), sistemas de reconocimiento de emociones por parte de las fuerzas de seguridad, para la gestión de fronteras, en el lugar de trabajo o en las instituciones educativas; y la recopilación indiscriminada de datos biométricos de las redes sociales o de imágenes de circuitos cerrados de televisión (CCTV) para crear bases de datos de reconocimiento facial.
Ampliación de la clasificación de áreas de alto riesgo en la IA
Los eurodiputados ampliaron la clasificación de áreas de alto riesgo para incluir daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente, así como los sistemas de inteligencia artificial para influir a los votantes en campañas electorales y de los sistemas de recomendación utilizados por las plataformas de redes sociales.
Asimismo, han incluido obligaciones para los proveedores de modelos de base, que deberían garantizar una protección sólida de los derechos fundamentales, la salud, la seguridad, el medio ambiente, la democracia y el estado de derecho, además de evaluar y mitigar los riesgos, cumplir con los requisitos de diseño, información y ambientales, y registrarse en la base de datos de la Unión Europea.
Los modelos de base generativos tendrían que cumplir con requisitos de transparencia adicionales, como revelar que el contenido es generado por IA, un diseño que evite la generación de contenido ilegal y la publicación de resúmenes de datos protegidos por derechos de autor utilizados para el entrenamiento de la inteligencia artificial.
Exenciones para impulsar la innovación en IA
Para impulsar la innovación en IA, el Parlamento Europeo ha añadido exenciones a las reglas para actividades de investigación y componentes de IA proporcionados bajo licencias de código abierto. La nueva legislación promoverá sandboxes regulatorios y entornos controlados para probar la inteligencia artificial antes de su implementación.
Además, se impulsa el derecho de la ciudadanía a presentar quejas y recibir explicaciones en torno a sistemas de IA que afectan a sus derechos. Adicionalmente, se ha reformado el papel de la Oficina de IA de la Unión Europea, que se encargaría de monitorizar la implementación de la normativa.
Antes de comenzar las negociaciones con el Consejo Europeo sobre la forma final de la Ley de inteligencia artificial, el proyecto de mandato de negociación deberá ser aprobado por el Parlamento.