Debido a su naturaleza de caja negra, los modelos de inteligencia artificial (IA) existentes son difíciles de interpretar y, por lo tanto, de confiar. Es por ello que el proyecto europeo Trust-AI, liderado por el Instituto de Ingeniería, Tecnología y Ciencias de Sistemas y Computación (Inesc Tec) de Portugal, diseñará una plataforma de inteligencia artificial confiable y colaborativa, que aborde los problemas predictivos y prescriptivos, y creará un ecosistema de innovación en el que los académicos y las empresas puedan trabajar de forma independiente o conjunta.
La inteligencia artificial está cambiando por sí sola la toma de decisiones en diferentes niveles y sectores, a menudo de manera impredecible y descontrolada. Para cambiar este paradigma y crear un modelo igualmente poderoso, pero completamente explicable, se necesita poder aprender su estructura. Sin embargo, es un proceso extremadamente desafiante y existe el riesgo de que no se proporcionen al algoritmo las variables y operadores necesarios, lo que conduce a modelos más complejos y menos generales.
Según la información publicada en el Servicio de Información Comunitario sobre Investigación y Desarrollo (Cordis, por sus siglas en inglés) de la Comisión Europea, el consorcio del proyecto Trust-AI, compuesto por seis entidades procedentes de Portugal, Estonia, Francia, Países Bajos, Chipre y Turquía, tiene un enfoque que consiste en involucrar la inteligencia humana en el proceso de descubrimiento, lo que da como resultado que la IA y los humanos trabajen en conjunto para encontrar mejores soluciones, es decir, modelos que sean efectivos, comprensibles y generalizables.
Modelos simbólicos y algoritmos de aprendizaje
Esto es posible mediante el empleo de modelos simbólicos y algoritmos de aprendizaje explicables por diseño, y la adopción de un proceso de aprendizaje empírico guiado centrado en el ser humano que integra la cognición, el aprendizaje automático y la interacción hombre-máquina, lo que finalmente da como resultado un proceso de aprendizaje transparente, así como una herramienta inteligente confiable e imparcial.
Esta propuesta tiene como objetivo diseñar la confianza, garantizar su idoneidad para abordar problemas predictivos y prescriptivos, y crear un ecosistema de innovación a su alrededor, en el que la academia y las empresas puedan explotarla aún más, de forma independiente o en colaboración.
El proyecto comenzó en octubre de 2020 y finalizará en marzo de 2025. Para alcanzar los objetivos, el consorcio cuenta con una inversión de 3.996.418 euros, íntegramente financiados por el programa de investigación Horizonte 2020 de la Comisión Europea.