El AI Congress Barcelona ha destacado la necesidad de alinear las capacidades de automatización de la inteligencia artificial agéntica con criterios humanos para afrontar retos de seguridad y gobernanza en los ámbitos empresarial, social y medioambiental.
El evento de referencia en inteligencia artificial, impulsado por CIDAI y organizado por el centro tecnológico Eurecat, se celebra esta semana en Barcelona y alcanza este año su duodécima edición. El congreso ha señalado que la próxima fase en el despliegue de la IA se orientará a la personalización de modelos utilizados de forma independiente y local sobre infraestructuras de empresas y organizaciones.
Este enfoque busca mantener el control sobre los datos, reforzar la privacidad, reducir la dependencia de proveedores externos y mejorar la eficiencia. Según el planteamiento expuesto en el congreso, puede convertirse en una alternativa competitiva frente a los servicios en la nube asociados a los grandes modelos de frontera de IA generativa.
Gobernanza de la inteligencia artificial agéntica
La cofundadora y consejera delegada de Alinia AI, Ariadna Font, advirtió de que la IA agéntica no solo incrementa la productividad, sino también el volumen y la velocidad de los errores. En su análisis, un agente puede repetir un fallo de forma masiva antes de que alguien lo detecte.
Font defendió la inversión en marcos y sistemas sólidos de control y gobernanza para facilitar un uso seguro y responsable de los avances tecnológicos más recientes. También sostuvo que la ventaja no dependerá únicamente de disponer de más IA, sino de mantener su control con criterio humano.
El director del AI Congress y director científico del Área Digital de Eurecat, Joan Mas, señaló que la IA agéntica ha eclosionado durante el último año y ofrece oportunidades para alcanzar niveles de automatización elevados. Al mismo tiempo, apuntó que plantea interrogantes sobre los riesgos y las protecciones necesarias para evitar que estos agentes se desalineen del criterio humano en sus decisiones.
Modelos locales, eficiencia y soberanía tecnológica
En la bienvenida institucional, el presidente de Eurecat, Daniel Altimiras, afirmó que Cataluña dispone de conocimiento, talento, capacidades tecnológicas y tejido empresarial para desempeñar un papel relevante en esta nueva etapa de la inteligencia artificial. Añadió que el reto consiste en incorporarla de manera efectiva, segura y responsable en las organizaciones y convertirla en competitividad, productividad y nuevas oportunidades de crecimiento.
El secretario de Telecomunicaciones y Transformación Digital de la Generalitat de Catalunya, Albert Tort, defendió una inteligencia artificial orientada a resolver problemas reales, generar valor público, reforzar la competitividad empresarial y mejorar los servicios dirigidos a la ciudadanía.
La directora científica de IA de Multiverse Computing, Jezabel R. Garcia, situó la próxima evolución de la IA en modelos capaces de funcionar allí donde aporten valor, como dispositivos, empresas, hospitales o administraciones públicas. Según explicó, la compresión permite mantener la capacidad de un modelo al tiempo que reduce su tamaño y su consumo energético en más de un 50%, lo que facilita una IA soberana, eficiente y sostenible en Europa.
IA intencional, protección de datos y cumplimiento
El congreso también abordó la importancia de que la adopción de la inteligencia artificial parta de una definición clara de las soluciones que se quieren alcanzar. La experta internacional en transformación digital Pooja Munshi expuso el concepto de IA intencional, entendida como una inteligencia artificial alineada con objetivos concretos y con las necesidades de las personas, las organizaciones y el medio ambiente.
A partir de su trabajo reciente como responsable del Programa de las Naciones Unidas para el Medio Ambiente, Munshi analizó cómo los líderes pueden desarrollar productos de IA intencionales que transformen la capacidad tecnológica en un impacto significativo y duradero. Su intervención puso el foco en formular mejores preguntas y escuchar a las personas, las evidencias y el entorno afectado por la tecnología.
La directora de la Autoridad Catalana de Protección de Datos (APDCAT), Meritxell Borràs, trató los retos que plantea la IA agéntica en materia de protección de datos cuando los agentes trabajan con información de carácter personal. También abordó la necesidad de estructurar una supervisión humana efectiva durante su ejecución.
Durante el AI Congress se presentaron ejemplos de agentes y sistemas multiagente aplicados a distintos sectores, junto con recomendaciones para reforzar la seguridad técnica frente a amenazas y riesgos. El encuentro también trató el cumplimiento del Reglamento de Inteligencia Artificial (AI Act).
Alineado con la Estrategia Cataluña IA 2030 impulsada por el Gobierno de Cataluña, el AI Congress ha contado con el apoyo de CaixaBank Tech, Conversia, Forvis-Mazars-Infini, Orange Empresas, Raona y Softeng. La edición ha reunido a más de medio centenar de ponentes y ha superado los 2.200 inscritos.