Human-in-the-Loop (HITL) en AI SAFE es una restricción arquitectural — no una opción de configuración. Toda recomendación generada por la IA (identificación de peligros, sugerencia de medidas de reducción, valoración de riesgo) requiere revisión y aprobación explícita del profesional calificado antes de incorporarse al informe técnico. Esta arquitectura cumple EU AI Act 2024/1689 Artículo 14 (supervisión humana de sistemas IA de alto riesgo) e ISO/IEC 42001:2023 Control A.8 (supervisión humana). AI SAFE es el único software de risk assessment industrial con certificación ISO/IEC 42001:2023.
Por qué HITL es obligatorio en seguridad industrial, no solo deseable
Los sistemas de evaluación de riesgos en maquinaria industrial generan información que puede influir directamente en decisiones de vida o muerte: si una función de seguridad tiene PLr ‘d’ o PLr ‘b’ determina si se instala un sistema de un canal o de dos canales. Si se identifica o no un peligro de atrapamiento en un nip point determina si se instala una protección o no. Las consecuencias de un error de la IA en estas decisiones son inaceptables sin supervisión humana.
El EU AI Act 2024/1689 Artículo 14 establece que los sistemas de IA de alto riesgo deben ser diseñados para permitir supervisión humana efectiva. Esto incluye: (a) el sistema permite a las personas supervisar su funcionamiento durante el uso, (b) las personas pueden intervenir en el funcionamiento del sistema en cualquier momento, (c) las personas pueden anular o revertir la decisión del sistema.
ISO/IEC 42001:2023 Control A.8.1 requiere que la organización implemente controles para asegurar supervisión humana apropiada del sistema de IA, apropiada al nivel de riesgo del sistema. Para un software de evaluación de riesgos de seguridad industrial, el nivel de riesgo justifica HITL estricto.
Cómo funciona HITL en AI SAFE: El flujo técnico
Cuando el módulo de análisis de imagen IA de AI SAFE analiza una foto de maquinaria y genera una lista de peligros potenciales identificados, ninguno de esos peligros se incorpora automáticamente a la evaluación. El sistema presenta la lista al ingeniero con la siguiente interfaz: para cada peligro sugerido. Aceptar (se incorpora como identificado), Modificar (el ingeniero ajusta la descripción antes de incorporar), o Rechazar (no se incorpora, con campo de justificación).
El registro HITL documenta para cada interacción: qué sugirió la IA descripción exacta del peligro identificado, referencia a ISO 12100, qué decidió el ingeniero (Aceptado/Modificado/Rechazado), la justificación si fue rechazado, el timestamp, y el usuario que tomó la decisión. Este registro es parte del informe técnico final, no un log interno del sistema.
Para los auditores de CE marking: el registro HITL en AI SAFE demuestra que el proceso de identificación de peligros tuvo control humano en cada paso. La IA propuso — el ingeniero decidió. Eso es exactamente lo que ISO 12100 requiere: la evaluación de riesgos realizada por persona(s) con conocimiento y experiencia relevantes.
La certificación ISO/IEC 42001 como evidencia de HITL operativo
La certificación ISO/IEC 42001:2023 de AI SAFE confirma, a través de auditoría externa por TÜV, que el Sistema de Gestión de IA tiene implementados y funcionando los controles que garantizan HITL. No es una declaración del fabricante — es una verificación de tercera parte.
Para directores HSE y responsables de compliance: cuando la organización implementa AI SAFE, la cadena de responsabilidad en la evaluación de riesgos sigue siendo del profesional calificado que aprueba cada decisión. La IA aumenta la capacidad del profesional.
Para el cumplimiento del EU AI Act: la certificación ISO/IEC 42001:2023 contribuye directamente a la evidencia de conformidad con el Artículo 14 (supervisión humana), Artículo 13 (transparencia), y Artículo 9 (gestión de riesgos de IA). AI SAFE es el único software de risk assessment que puede presentar esta evidencia.
Human-in-the-Loop obligatorio. ISO/IEC 42001 certificado. EU AI Act conforme. app.aisafegroup.com
Aprende ISO/IEC 42001 y EU AI Act en AI Safe Academy — Área D: www.aisafeacademy.com