El Centro Criptológico Nacional (CCN), integrado en el Centro Nacional de Inteligencia (CNI), ha publicado una metodología de evaluación de seguridad para productos con inteligencia artificial con el objetivo de ofrecer un marco común y comparable a fabricantes, laboratorios y organismos usuarios.
La nueva guía ‘CCN-STIC-2011, Metodología de Evaluación de Seguridad de Productos – Inteligencia Artificial (ESP-IA)’ incorpora además dos anexos operativos: una plantilla de Declaración de Seguridad y una plantilla del Informe Técnico de Evaluación, concebidas para documentar el alcance y los resultados del análisis.
Evaluación de seguridad para productos con IA
El desarrollo responde a la necesidad de abordar riesgos específicos de los productos con IA que no quedan cubiertos por las evaluaciones tradicionales de seguridad. La metodología se orienta a vulnerabilidades relacionadas con la manera en que estos sistemas aprenden, interpretan instrucciones, conservan información o ejecutan acciones.
Entre las amenazas contempladas figuran la evasión de decisiones, la inyección de instrucciones, el envenenamiento, la extracción del modelo, la fuga de información protegida, el agotamiento de recursos y el uso indebido de herramientas y acciones por parte de sistemas agénticos.
La guía introduce también dos principios considerados esenciales para este tipo de productos. El primero es la supervisión humana antes de que la IA ejecute acciones críticas o irreversibles. El segundo es la trazabilidad suficiente para reconstruir con posterioridad la actuación del sistema y analizar su comportamiento.
Requisitos, matriz de aplicabilidad y pruebas
La evaluación se ajusta a las características concretas de cada producto. Para ello, el fabricante debe describir la arquitectura del sistema y responder a un cuestionario sobre las capacidades de la inteligencia artificial incorporada. A partir de esa información, una matriz de aplicabilidad determina cuáles de los 27 requisitos previstos en la metodología deben cumplirse en cada caso.
La verificación corresponde a un laboratorio acreditado y autorizado por el CCN, que comprueba cada requisito aplicable y lleva a cabo pruebas de penetración adicionales. Para estas pruebas, la guía toma como referencia la ‘Guía de pruebas de inteligencia artificial de OWASP’ y las técnicas de ataque más actuales.
Con este esquema, la metodología establece un procedimiento documentado para que las partes implicadas puedan valorar la seguridad de productos con inteligencia artificial bajo criterios comunes, incluyendo tanto la declaración inicial del fabricante como el informe técnico emitido tras la evaluación.