¿Qué sistemas de IA industrial son ‘alto riesgo’ según el EU AI Act?
El Anexo III del EU AI Act lista las categorías de sistemas de IA de alto riesgo. Las relevantes para operadores industriales incluyen: sistemas de IA utilizados como componentes de seguridad de productos sujetos a la legislación de la Unión (esto incluye maquinaria cubierta por el Reglamento de Máquinas 2023/123/UE), sistemas de IA para gestión y operación de infraestructura crítica (energía, agua, transporte), y sistemas de IA para seguridad de componentes digitales de productos.
Ejemplos concretos en planta industrial: un sistema de visión artificial integrado en una celda robótica que toma decisiones de clasificación con impacto en la detención de la línea, un sistema de mantenimiento predictivo que genera alertas que el operador debe atender, un sistema de control adaptativo que ajusta parámetros de proceso automáticamente. Si alguno de estos sistemas puede impactar directamente en la seguridad del proceso o de las personas, es probable que califique como alto riesgo.
La clasificación no depende de si el sistema ‘toma decisiones finales’ o solo ‘hace recomendaciones’. Si el sistema de IA influye materialmente en decisiones de seguridad, el EU AI Act puede aplicar. El Artículo 3(1) define ‘sistema de IA’ de forma amplia — cualquier sistema basado en ML que genera outputs (predicciones, recomendaciones, decisiones) que influyen en el entorno real.
Obligaciones del operador: Artículos 6-49
Artículo 9 — Gestión de riesgos: el operador debe implementar y mantener un sistema de gestión de riesgos de IA durante todo el ciclo de vida del sistema. Esto es equivalente, en muchos aspectos, al AIMS de ISO/IEC 42001:2023.
Artículo 13 — Transparencia y provisión de información: el sistema de IA de alto riesgo debe ser suficientemente transparente para que el operador comprenda sus capacidades, limitaciones y riesgos. La documentación técnica debe incluir descripción de la arquitectura, datos de entrenamiento, medidas de supervisión humana implementadas.
Artículo 14 — Supervisión humana: los sistemas de alto riesgo deben ser diseñados para ser supervisados efectivamente por personas físicas. Esto incluye: capacidad de los operadores para intervenir y detener el sistema, capacidad de override de outputs automatizados, y garantía de que los operadores entienden las capacidades del sistema. AI SAFE implementa este requisito mediante Human-in-the-Loop obligatorio.
Artículo 26 — Obligaciones de los operadores de sistemas de alto riesgo: registrar el sistema en la base de datos de la UE (cuando aplique), asegurar que el personal que supervisa el sistema tiene la formación y autoridad necesarias, informar a la autoridad supervisora de incidentes graves, y cesar el uso si el sistema presenta riesgos.
ISO/IEC 42001:2023 como herramienta de conformidad con EU AI Act
ISO/IEC 42001:2023 es el estándar de Sistema de Gestión de Inteligencia Artificial. Aunque el EU AI Act no cita explícitamente ISO/IEC 42001, los requisitos del AIMS según esta norma se alinean directamente con los requisitos del EU AI Act para sistemas de alto riesgo.
La certificación ISO/IEC 42001 contribuye a la evidencia de conformidad con EU AI Act en aspectos clave: gestión de riesgos de IA (ISO 42001 Cláusula 6 ↔ EU AI Act Artículo 9), supervisión humana (ISO 42001 Control A.8 ↔ EU AI Act Artículo 14), trazabilidad de datos y modelos (ISO 42001 Control A.6 ↔ EU AI Act Artículo 17), y documentación técnica (ISO 42001 Cláusula 7.5 ↔ EU AI Act Artículo 11).
En el curso SPISI de AI Safe Academy, los participantes mapean los requisitos del EU AI Act a los controles de ISO/IEC 42001:2023 para una planta industrial con sistemas de IA activos, e identifican brechas de conformidad con plan de acción.
Curso SPISI Seguridad de Procesos con Integración de Sistemas Inteligentes. AI Safe Academy. SGS TÜV Saar. www.aisafeacademy.com
AI SAFE: certificado ISO/IEC 42001 app.aisafegroup.com