La Universidad Politécnica de Valencia (UPV) está trabajando en el proyecto europeo CPaid para proteger a los sistemas de inteligencia artificial (IA) de ciberataques. En concreto, el proyecto se centra en mejorar la seguridad de la IA frente a los llamados ataques adversarios. Estos ataques buscan engañar a la inteligencia artificial, haciéndola interpretar datos maliciosos como buenos.
Según los investigadores, estos ataques son especialmente críticos en áreas como la seguridad informática, la visión por computador o el procesamiento de lenguaje natural (NLP).
Estos ataques pueden modificar el código de un malware para que el antivirus lo clasifique como inofensivo, crear correos electrónicos con pequeños cambios para que los detectores de phishing o spam no los reconozcan, modificar huellas digitales sintéticas para burlar sistemas de control de accesos; o modificar mínimamente un texto (errores ortográficos o símbolos invisibles) para engañar a un detector de discursos de odio o fake news.
Nueva plataforma de seguridad para los sistemas de IA
Entre los objetivos del proyecto destaca el desarrollo de una nueva plataforma de seguridad que permitirá hacer más robustos los sistemas de IA frente a este tipo de ataques cibernéticos. Además, plantea también la puesta en marcha de la herramienta Cyber Ranges, para entrenar a profesionales de IA en ciberseguridad.
El proyecto se dirige fundamentalmente a desarrolladores de IA y analistas de datos, empresas y organizaciones de todos los sectores que incorporan la inteligencia artificial en su día a día, asociaciones industriales y proveedores de ciberseguridad, así como a la comunidad científica.
Financiado por la Unión Europea, a través del programa Horizon Europe, el proyecto CPaid está coordinado por Uni Systems Luxembourg Sàrl y concluirá en septiembre de 2027.