La International Electrotechnical Commission (IEC) ha publicado el nuevo estándar ISO/IEC 23894 que proporciona una guía esencial sobre la gestión de riesgos para organizaciones de todos los tamaños y tipos que utilizan inteligencia artificial (IA) en sus sistemas o procesos. El estándar muestra a los usuarios cómo gestionar los riesgos relacionados con la IA de manera eficaz para alcanzar los objetivos y mejorar el rendimiento.
El nuevo estándar adapta y desarrolla las directrices y los principios generales de la gestión de riesgos descritos en la norma ISO 31000. Además, describe un marco para la gestión de riesgos que requiere que los usuarios establezcan un contexto e identifiquen, analicen, evalúen, traten, controlen y revisen los riesgos.
Establecer el contexto implica definir los objetivos de la organización y los riesgos que podrían afectar a esos objetivos, así como las necesidades y expectativas de las partes interesadas que se verán afectadas por los riesgos. Mientras que la identificación consiste en identificar los peligros potenciales que podrían afectar a los objetivos de la organización, incluidos los riesgos asociados con las actividades, los procesos y los factores externos de la organización.
Monitorización y análisis de los riesgos
Gracias al análisis de riesgos, se puede evaluar la probabilidad y el impacto de los peligros identificados, así como las posibles consecuencias de cada riesgo. La evaluación ayuda a decidir qué riesgos vale la pena abordar, en función de su probabilidad e impacto potencial, y determinar la respuesta adecuada a cada uno de ellos.
Por su parte, el tratamiento de los riesgos implica implementar la respuesta al riesgo elegida, lo que podría implicar evitarlo, reducir su probabilidad o impacto, transferirlo a otra parte o aceptarlo. Por último, la monitorización y revisión conlleva monitorizar los riesgos de manera continua para garantizar que se administren de manera efectiva y revisar el proceso de administración de riesgos para identificar cualquier mejora que se pueda realizar.
ISO/IEC 23894 proporciona un enfoque estructurado para la gestión de riesgos que puede ayudar a las organizaciones a identificar, evaluar y abordar los riesgos de manera proactiva y eficaz. Proporciona un marco y principios para garantizar que los sistemas de IA funcionen de manera segura y justa, al tiempo que evitan riesgos potenciales y consecuencias negativas.