El Instituto Europeo de Normas de Telecomunicaciones (ETSI) ha publicado su nueva norma, ETSI EN 304 223, que establece los requisitos básicos de ciberseguridad para modelos y sistemas de inteligencia artificial (IA). Esta norma se convierte en la primera Norma Europea (EN) de aplicación global para la ciberseguridad de la IA, tras su exhaustiva revisión y aprobación por votación de las Organizaciones Nacionales de Normalización, lo que refuerza su autoridad en los mercados internacionales.
La norma proporciona un marco sólido para proteger los sistemas de IA frente a amenazas cada vez más sofisticadas, reforzando los principios de la especificación técnica ETSI TS 104 223.
Marco de seguridad para modelos y sistemas de inteligencia artificial
Reconociendo que la IA plantea desafíos de ciberseguridad distintos al software tradicional, la norma aborda riesgos como el envenenamiento de datos, la ofuscación de modelos, la inyección indirecta de avisos y vulnerabilidades derivadas de prácticas operativas complejas. ETSI EN 304 223 combina mejores prácticas establecidas en ciberseguridad con medidas específicas para IA, adaptadas a sus características únicas.
Adoptando un enfoque de ciclo de vida completo, la norma define 13 principios y requisitos distribuidos en cinco fases: diseño seguro, desarrollo seguro, despliegue seguro, mantenimiento seguro y fin de vida seguro. Cada fase se alinea con modelos de ciclo de vida de IA reconocidos internacionalmente, garantizando coherencia e interoperabilidad con estándares y directrices existentes.
La EN será fundamental para toda la cadena de suministro de IA, desde proveedores hasta operadores, y aplica a sistemas que incluyen redes neuronales profundas e IA generativa, asegurando su relevancia en implementaciones del mundo real. Además, un próximo Informe Técnico, ETSI TR 104 159, abordará la aplicación de esta norma a la IA generativa, incluyendo riesgos relacionados con deepfakes, desinformación, confidencialidad y propiedad intelectual, ofreciendo pautas más prescriptivas según sea necesario.