El Parlamento y el Consejo Europeo han llegado a un acuerdo provisional sobre la Ley de Inteligencia Artificial (IA), que tiene el objetivo de garantizar que los derechos fundamentales, la democracia, el Estado de Derecho y la sostenibilidad ambiental estén protegidos contra la IA de alto riesgo, al tiempo que impulsa la innovación y convierte a Europa en líder en este campo. Las reglas establecen obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto.
Para garantizar que la definición de un sistema de IA proporcione criterios suficientemente claros para distinguir la inteligencia artificial de los sistemas de software más simples, el acuerdo de compromiso alinea la definición con el enfoque propuesto por la OCDE.
El acuerdo provisional también aclara que el reglamento no se aplica a áreas fuera del alcance de la legislación de la UE y no debería afectar las competencias de los Estados miembros en materia de seguridad nacional o cualquier entidad a la que se le hayan confiado tareas en esta área. Además, la Ley de IA no se aplicará a los sistemas que se utilicen exclusivamente con fines militares o de defensa. De manera similar, el acuerdo establece que la regulación no se aplicaría a los sistemas de IA utilizados con el único fin de investigación e innovación, ni a las personas que utilizan la inteligencia artificial por motivos no profesionales.
Reconociendo la amenaza potencial para los derechos de los ciudadanos y la democracia que plantean determinadas aplicaciones de la IA, el Parlamento y Consejo Europeo acordaron prohibir los sistemas de categorización biométrica que utilizan características sensibles; o la extracción no dirigida de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial.
También se ha prohibido el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas; la puntuación social basada en comportamiento social o características personales; los sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío; y la explotación de las vulnerabilidades de las personas por su edad, discapacidad, situación social o económica.
Excepciones del uso de la IA
Los negociadores acordaron una serie de salvaguardias y excepciones estrechas para el uso de sistemas de identificación biométrica (RBI) en espacios de acceso público con fines policiales, sujetos a autorización judicial previa y para listas de delitos estrictamente definidas. La RBI postremota se utilizaría estrictamente en la búsqueda selectiva de una persona condenada o sospechosa de haber cometido un delito grave.
Por su parte, la RBI en tiempo real cumpliría con condiciones estrictas y su uso estaría limitado en tiempo y ubicación, para los fines de búsquedas selectivas de víctimas; prevención de una amenaza terrorista específica y presente, o para la localización o identificación de una persona sospechosa de haber cometido uno de los delitos específicos mencionados en el reglamento.
Para los sistemas de inteligencia artificial clasificados como de alto riesgo, se acordaron obligaciones claras. Los eurodiputados lograron incluir una evaluación obligatoria del impacto sobre los derechos fundamentales, aplicable también a los sectores bancario y de seguros. Los sistemas de inteligencia artificial utilizados para influir en el resultado de las elecciones y el comportamiento de los votantes también se clasifican como de alto riesgo. Los ciudadanos tendrán derecho a presentar quejas sobre los sistemas de IA y recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que afecten a sus derechos.
Para tener en cuenta la amplia gama de tareas que los sistemas de IA pueden realizar y la rápida expansión de sus capacidades, se acordó que los sistemas de inteligencia artificial de propósito general (GPAI), y los modelos GPAI en los que se basan, tendrán que cumplir con requisitos de transparencia, como lo propuesto inicialmente por el Parlamento Europeo. Estos incluyen la elaboración de documentación técnica, el cumplimiento de la ley de derechos de autor de la UE y la difusión de resúmenes detallados sobre el contenido utilizado para la formación.
Los modelos GPAI de alto impacto con riesgo sistémico tendrán que realizar evaluaciones de modelos, evaluar y mitigar riesgos sistémicos, realizar pruebas contradictorias, informar a la Comisión Europa sobre incidentes graves, garantizar la ciberseguridad e informar sobre su eficiencia energética.
Entornos de pruebas regulatorios de IA
Para garantizar que las pymes puedan desarrollar soluciones de inteligencia artificial sin presiones indebidas por parte de los gigantes de la industria que controlan la cadena de valor, el acuerdo promueve los entornos limitados de pruebas regulatorios de IA, que establecerán un entorno controlado para el desarrollo, prueba y validación de sistemas de inteligencia artificial innovadores. Además, estos entornos deberán permitir probar sistemas de IA innovadores en condiciones del mundo real, bajo condiciones y salvaguardias específicas.
Para aliviar la carga administrativa para las empresas más pequeñas, el acuerdo provisional incluye una lista de acciones que deben emprenderse para apoyar a dichos operadores y prevé algunas derogaciones limitadas y claramente especificadas.
Sanciones y entrada en vigor
El incumplimiento de las normas puede dar lugar a multas que van desde 35 millones de euros o el 7% del volumen de negocios global hasta 7,5 millones o el 1,5% del volumen de negocios, dependiendo de la infracción y el tamaño de la empresa.
El texto acordado ahora tendrá que ser adoptado formalmente tanto por el Parlamento Europeo como por el Consejo Europeo para convertirse en ley de la UE.