El Consejo de Ministros ha aprobado el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, una norma que adapta el ordenamiento jurídico español al Reglamento europeo de Inteligencia Artificial (RIA) y establece un marco para garantizar la supervisión humana y el uso confiable de esta tecnología.
La ley, impulsada por el Ministerio para la Transformación Digital y de la Función Pública, refuerza el compromiso de España con una inteligencia artificial segura, ética y orientada a la protección de los derechos fundamentales, al tiempo que impulsa la innovación en un entorno regulado.
Supervisión humana y uso responsable de la IA
El proyecto establece la obligación de garantizar la supervisión humana en aquellos sistemas de inteligencia artificial que puedan afectar a derechos fundamentales, de forma que las decisiones relevantes no queden completamente automatizadas sin intervención o control de personas.
Asimismo, refuerza las exigencias de transparencia algorítmica, con el objetivo de que el funcionamiento de los sistemas de IA sea comprensible, trazable y auditable, especialmente en ámbitos sensibles como el empleo, la educación o el acceso a servicios públicos. La norma incluye además medidas específicas para la protección de los menores, con el fin de prevenir riesgos derivados del uso de estas tecnologías en entornos digitales.
Además, se tipifican responsabilidades claras para los operadores, desarrolladores y usuarios que utilicen o comercialicen sistemas prohibidos por la normativa europea, en línea con el Reglamento de Inteligencia Artificial aprobado por la Unión Europea, estableciendo obligaciones de cumplimiento y supervisión en función del nivel de riesgo de cada sistema.
La ley también define un régimen sancionador estructurado en infracciones leves, graves y muy graves, que permite una respuesta proporcional en función del impacto y la gravedad del incumplimiento. Las sanciones económicas pueden alcanzar hasta el 7% del volumen de negocio anual global de la empresa o hasta 35 millones de euros en los casos más graves, además de contemplar criterios de proporcionalidad, reincidencia y capacidad económica del infractor para determinar la cuantía final de la multa.
Inventario de sistemas de IA en la administración pública
Como novedad, la norma introduce la creación de un inventario de sistemas de inteligencia artificial utilizados en los procedimientos administrativos del sector público estatal, con el objetivo de reforzar la transparencia, el control institucional y la trazabilidad del uso de estas tecnologías en la gestión pública. Este registro permitirá identificar qué sistemas de IA se emplean, en qué ámbitos se aplican y con qué finalidad, facilitando así una mayor supervisión por parte de las autoridades competentes.
Además, se establece la figura del delegado de inteligencia artificial, un nuevo responsable dentro de las administraciones públicas encargado de coordinar la correcta aplicación de la normativa, velar por el cumplimiento de los requisitos legales y éticos, y asesorar en el diseño, contratación e implantación de proyectos basados en inteligencia artificial. Esta figura también tendrá un papel clave en la evaluación de riesgos y en la promoción de un uso responsable de la IA en el ámbito público.
Marco de gobernanza y supervisión
La ley designa a las autoridades responsables de la supervisión del Reglamento de IA en España, entre ellas la Agencia de Supervisión de Inteligencia Artificial (AESIA), la Agencia Española de Protección de Datos (AEPD) y el Consejo General del Poder Judicial (CGPJ), según el ámbito de aplicación.
También se prevé un modelo de colaboración institucional reforzado y la creación de un punto de contacto único a través de la AESIA para cuestiones de supervisión. El texto regula la gobernanza de los entornos controlados de pruebas o sandboxes, que permitirán a los proveedores de IA experimentar con nuevas soluciones bajo supervisión, facilitando el cumplimiento normativo.
Estos entornos, ya impulsados de forma pionera por España, serán operados por la AESIA. Asimismo, se permite la creación de sandbox de IA adicionales siempre que sean creados por autoridades de vigilancia del mercado o notificante, y asociados a su sector de supervisión. Y especifica que en todos los sandbox deberán participar las autoridades responsables de definir las políticas públicas en los sectores cubiertos por el sandbox, y las autoridades de derechos fundamentales relacionadas.
Alineación con el marco europeo de IA
La norma adapta el Reglamento europeo de inteligencia artificial, que establece una clasificación de los sistemas de IA en función de su nivel de riesgo para las personas. Este marco regula de forma diferenciada los distintos usos de la inteligencia artificial, imponiendo obligaciones más estrictas a los sistemas de alto riesgo y prohibiendo aquellos considerados inaceptables por su impacto en la seguridad, los derechos fundamentales o la dignidad de las personas, como los que generan deepfakes sexuales o los que emplean técnicas de manipulación subliminal.
Asimismo, el reglamento establece requisitos de transparencia, supervisión y control para el resto de sistemas, con el objetivo de garantizar un uso seguro, fiable y ético de la inteligencia artificial en el mercado europeo.