Introducción: El Debate que la Industria de Seguridad Necesita Tener
La llegada de la inteligencia artificial generativa a los entornos de ingeniería de seguridad industrial ha desencadenado un debate técnico y ético de primera importancia: ¿puede una IA realizar de forma autónoma la apreciación del riesgo de maquinaria conforme a ISO 12100? Mi respuesta como CPMSS & CLAMSS, tras 15 años de auditorías y análisis de riesgo en entornos de alta consecuencia, es inequívoca: No. Una IA no puede, no debe y no está normativa ni legalmente habilitada para realizar de forma autónoma la apreciación del riesgo de maquinaria con consecuencias para la seguridad humana.
Sin embargo, el uso de IA como herramienta de asistencia al profesional experto — bajo el modelo de IA supervisada — representa una de las innovaciones más significativas para la eficiencia y calidad del análisis de riesgo que he visto en mi carrera. La diferencia entre estos dos enfoques no es un matiz; es la diferencia entre una herramienta que potencia al experto y un sistema que genera riesgo adicional al crear una falsa sensación de seguridad.
Los Límites Técnicos de la IA en Seguridad Funcional
Los modelos de IA generativa, incluyendo los sistemas de visión computacional más avanzados, presentan limitaciones técnicas fundamentales que los hacen inapropiados para la toma de decisiones autónoma en contextos de seguridad de maquinaria. El fenómeno de la alucinación — la generación de información plausible pero incorrecta — es inherente a los modelos de lenguaje de gran escala y constituye un riesgo inadmisible cuando las decisiones tienen consecuencias físicas directas sobre la integridad humana.
Adicionalmente, la valoración del riesgo conforme a ISO 12100 requiere el juicio contextual de un profesional que conoce el entorno operacional específico, los comportamientos reales de los operadores (no los ideales documentados en manuales), las condiciones de mantenimiento actuales y la cultura de seguridad de la organización. Ningún modelo de IA tiene acceso a estas variables implícitas que el experto evalúa de forma natural durante una visita de auditoría.
El Marco Regulatorio Emergente: UE AI Act y su Impacto en Seguridad Industrial
El Reglamento de Inteligencia Artificial de la Unión Europea (UE AI Act), en vigor desde agosto de 2024, clasifica como sistemas de IA de alto riesgo aquellos utilizados en la seguridad de componentes de productos cubiertos por la legislación de maquinaria, incluyendo la Directiva de Maquinaria 2006/42/CE y su sucesor el Reglamento de Maquinaria (UE) 2023/1230. Esta clasificación implica requisitos obligatorios de: supervisión humana activa, trazabilidad de decisiones, evaluación de conformidad y registro en base de datos EU.
El Modelo de IA Supervisada: El Único Marco Técnicamente Válido
El modelo de IA supervisada establece que el sistema de IA puede identificar, clasificar y sugerir medidas de reducción del riesgo, pero ninguna de estas salidas puede implementarse sin la revisión, validación y aprobación explícita de un profesional calificado. Este modelo satisface simultáneamente los requisitos del UE AI Act, preserva la cadena de responsabilidad legal del experto y aprovecha las ventajas genuinas de la IA: velocidad de procesamiento, consistencia metodológica y capacidad de referencia normativa cruzada.
| AI SAFE & AI SAFE ACADEMY
AI SAFE es un sistema de IA supervisada diseñado desde sus fundamentos normativos para cumplir con el UE AI Act y los requisitos de ISO 12100. El motor de IA (basado en Anthropic Claude) analiza imágenes de maquinaria industrial y genera sugerencias de medidas de reducción del riesgo alineadas con ISO 12100, ISO 13849-1, IEC 62061, ANSI B11.0 y OSHA. NINGUNA sugerencia es implementable sin la revisión y aprobación explícita del profesional calificado responsable. Cada decisión queda registrada con el nombre, credenciales y firma digital del experto supervisor. AI SAFE Academy prepara a los profesionales para convertirse en supervisores competentes del sistema de IA, desarrollando la capacidad crítica para validar, rechazar o modificar las sugerencias del motor con argumentación técnica sólida. |
Conclusión del Auditor
La IA no reemplaza al CPMSS; potencia al CPMSS. La organización que entiende esta distinción y la implementa con un sistema de IA supervisada correctamente diseñado obtendrá mejoras significativas en la velocidad, consistencia y trazabilidad de sus análisis de riesgo. La organización que confía en la IA sin supervisión experta está construyendo sobre arena: tarde o temprano, la alucinación de un algoritmo se convertirá en el daño real de un ser humano.