Ing. José Gabriel Aguirre Andrade · Ing. Benita Cañizalez de Aguirre

1. AutoSafeGroup Corp, Florida, Estados Unidos
2. AutoSafeGroup Corp / Fainca Group

Autor de correspondencia: info@aisafegroup.com

RESUMEN

El Reglamento (UE) 2024/1689, conocido como AI Act, entró plenamente en vigor el 2 de agosto de 2026 con obligaciones escalonadas desde febrero de 2025 y constituye el primer marco jurídico vinculante sobre sistemas de inteligencia artificial a nivel europeo. Para el responsable de prevención de riesgos laborales en organizaciones industriales españolas, el Reglamento plantea obligaciones técnicas y jurídicas sustantivas en todo sistema de IA que actúe sobre maquinaria sujeta al Real Decreto 1644/2008 o sobre procesos con capas de protección relevantes para la seguridad. Este artículo analiza con perspectiva jurídico-técnica la clasificación de sistemas, las obligaciones del Artículo 14 sobre supervisión humana, el régimen sancionador del Artículo 99, la articulación con el marco preventivo español (Ley 31/1995 y Real Decreto 39/1997) y los criterios operativos para la auditoría formal bajo ISO 19011:2018 e ISO/IEC 42001:2023. Se proporcionan pautas concretas para que el técnico de prevención y el responsable de compliance diseñen el programa de adecuación antes de que la Inspección de Trabajo o la autoridad supervisora europea exijan evidencia documental.

1. Contexto regulatorio: la irrupción del AI Act en el ordenamiento jurídico europeo

El Reglamento (UE) 2024/1689, publicado en el Diario Oficial de la Unión Europea el 12 de julio de 2024 y aplicable plenamente desde el 2 de agosto de 2026, constituye el primer marco jurídico vinculante sobre sistemas de inteligencia artificial adoptado a nivel europeo. Su naturaleza de Reglamento —no de Directiva— implica aplicabilidad directa en todos los Estados miembros sin necesidad de transposición, y su vocación de alcance extraterritorial extiende las obligaciones a operadores establecidos fuera de la Unión cuando sus sistemas afecten a personas ubicadas en territorio europeo.

Para el responsable de prevención de riesgos laborales y el departamento de compliance de organizaciones industriales españolas, el AI Act no es una regulación sectorial aislada sino un marco transversal que se articula con el corpus preventivo nacional vigente. La Ley 31/1995 de Prevención de Riesgos Laborales, el Real Decreto 39/1997 del Reglamento de los Servicios de Prevención y el Real Decreto 1644/2008 sobre comercialización y puesta en servicio de máquinas siguen constituyendo el marco primario de obligaciones del empresario en materia de seguridad industrial. El AI Act se añade como capa adicional cuando el sistema productivo incorpora componentes de inteligencia artificial que operan sobre la seguridad de personas, y su incumplimiento puede generar simultáneamente responsabilidad bajo el régimen sancionador europeo y bajo el marco preventivo español.

2. La clasificación de sistemas de IA y su aplicación al entorno industrial

El Reglamento establece cuatro categorías de riesgo para los sistemas de IA: riesgo inaceptable (prohibidos), alto riesgo (sujetos a obligaciones estrictas), riesgo limitado (obligaciones de transparencia) y riesgo mínimo (sin obligaciones específicas). La categoría relevante para la práctica preventiva industrial es la de alto riesgo, que el Anexo III del Reglamento desarrolla de forma taxativa.

La práctica totalidad de sistemas de IA que operan en entornos industriales con capacidad de decidir sobre parada de máquina, disparo de sistema instrumentado de seguridad, apertura de válvula crítica, activación de supresor de incendios o ajuste de parámetros de proceso que afectan a la exposición de trabajadores recae bajo la categoría de alto riesgo. El empresario que opera estos sistemas asume las obligaciones sustantivas del Capítulo III del Reglamento (artículos 8 a 27) y, específicamente, los requisitos del Artículo 14 sobre supervisión humana.

3. Artículo 14 del AI Act: las obligaciones específicas de supervisión humana

El Artículo 14 del Reglamento establece que los sistemas de IA de alto riesgo deberán diseñarse y desarrollarse, incluso con herramientas adecuadas de interfaz humano-máquina, de tal modo que las personas físicas puedan supervisarlos efectivamente durante su período de uso. La redacción del precepto es imperativa y técnicamente exigente: no basta con que el sistema admita supervisión teóricamente posible, sino que el diseño debe permitir que la supervisión sea efectivamente ejercida.

Las obligaciones concretas que el Artículo 14 apartado 4 impone sobre la supervisión humana son cinco: (a) capacidad de comprender las capacidades y limitaciones del sistema y seguir su funcionamiento debidamente; (b) capacidad de ser consciente de la posible tendencia a confiar automáticamente o en exceso en la información producida por el sistema, especialmente respecto a sistemas de alto riesgo destinados a proporcionar información o recomendaciones para tomar decisiones; (c) capacidad de interpretar correctamente la información producida; (d) capacidad de decidir no usar el sistema o anular sus salidas en situaciones específicas; y (e) capacidad de intervenir sobre el funcionamiento del sistema o interrumpirlo mediante procedimiento técnico inmediato.

4. Régimen sancionador del Artículo 99: cuantías y gradación

El Artículo 99 del Reglamento establece un régimen sancionador con tres niveles de multas según la gravedad del incumplimiento. El nivel más grave corresponde al incumplimiento de las prohibiciones del Artículo 5 y puede alcanzar hasta 35 millones de euros o el 7 por ciento del volumen de negocio mundial anual total del ejercicio financiero anterior, el que sea mayor. El nivel intermedio —aplicable al incumplimiento de obligaciones sustantivas del Capítulo III, incluyendo el Artículo 14— puede alcanzar hasta 15 millones de euros o el 3 por ciento del volumen de negocio mundial anual. El nivel menor, por suministro de información incorrecta a autoridades competentes, puede alcanzar hasta 7,5 millones de euros o el 1 por ciento del volumen de negocio.

Para una organización industrial mediana con facturación mundial de 200 millones de euros, el incumplimiento del Artículo 14 podría resultar en multa de hasta 6 millones de euros (3 por ciento). Para un operador corporativo con facturación de 5.000 millones, la cifra sube a 150 millones. Estas cuantías son sustancialmente superiores a las del régimen sancionador laboral español (Real Decreto Legislativo 5/2000, con sanción máxima ordinaria de 983.736 euros por infracción muy grave) y constituyen por sí solas un argumento económico suficiente para priorizar el cumplimiento.

5. Articulación con la Ley 31/1995 y el Real Decreto 39/1997

El AI Act no sustituye sino que se añade al marco preventivo español. La Ley 31/1995 impone al empresario la obligación general de garantizar la seguridad y la salud de los trabajadores en todos los aspectos relacionados con el trabajo (Artículo 14.2), obligación que incluye la planificación de la actividad preventiva, la evaluación de riesgos y la adopción de medidas necesarias. El Real Decreto 39/1997 desarrolla la organización de los recursos para las actividades preventivas.

Cuando el centro de trabajo incorpora sistemas de IA que afectan a la seguridad de los trabajadores, la evaluación de riesgos prevista en el Artículo 16 de la Ley 31/1995 debe incorporar específicamente los riesgos asociados a dichos sistemas: posibilidad de fallo algorítmico, pérdida de supervisión humana efectiva, sesgos en entrenamiento que puedan generar discriminación operativa, dependencias cibernéticas que afecten a la disponibilidad de la función de seguridad. El técnico de prevención no puede obviar esta dimensión incluso cuando el sistema de IA fue suministrado por un tercero: la responsabilidad del empresario sobre las condiciones de seguridad en su centro de trabajo es directa.

La coordinación operativa entre ambos marcos exige integrar en el plan de prevención del centro de trabajo los siguientes elementos específicos: inventario de sistemas de IA operativos con clasificación de riesgo según AI Act, designación formal de la persona responsable de supervisión humana por cada sistema con documentación de su competencia técnica, procedimiento escrito de interrupción del sistema con tiempos de respuesta verificables, programa de auditoría periódica (mínimo anual) de la efectividad de la supervisión, y registro trazable de cada incidente o desviación con análisis de causa raíz.

6. La auditoría del cumplimiento: ISO 19011:2018 e ISO/IEC 42001:2023 como marco operativo

El empresario que quiera anticiparse a la verificación externa debe estructurar auditorías internas formales bajo marcos internacionales reconocidos. La norma ISO 19011:2018 establece las directrices para la auditoría de sistemas de gestión y aporta el marco metodológico común, con sus siete principios de auditoría (integridad, presentación imparcial, debido cuidado profesional, confidencialidad, independencia, enfoque basado en evidencia, enfoque basado en riesgos). La norma ISO/IEC 42001:2023 aporta los requisitos específicos para la gestión formal de sistemas de IA y es el estándar sobre el que se articula la certificación voluntaria del sistema de gestión de IA.

El perfil profesional que combina ambas competencias —auditoría ISO 19011 y gestión bajo ISO 42001— no abunda en el mercado laboral español. La certificación CLAMSS (Certified Lead Auditor in Machinery, Process Safety & Secure Systems), emitida por AI Safe Academy bajo aval de SGS TÜV Saar, integra formalmente estos dos marcos junto con la auditoría de seguridad de máquinas, procesos y ciberseguridad OT en un único perfil certificado.

7. Pautas operativas para el responsable de prevención y el compliance officer

• Inventariar todos los sistemas de IA operativos en el centro de trabajo con clasificación de riesgo según AI Act, incluyendo sistemas adquiridos a terceros que operen sobre maquinaria o procesos industriales.
• Para cada sistema clasificado como de alto riesgo, formalizar designación de persona responsable de supervisión humana con documentación de competencia técnica acreditable.
• Elaborar procedimiento escrito de interrupción inmediata del sistema con tiempos de respuesta verificables y pruebas de efectividad documentadas al menos anualmente.
• Integrar los riesgos específicos de los sistemas de IA en la evaluación de riesgos del Artículo 16 de la Ley 31/1995, con actualización periódica.
• Programar auditoría interna anual bajo marco ISO 19011:2018 con alcance específico sobre sistemas de IA y supervisión humana.
• Conservar registros trazables de cada incidente, desviación o intervención de supervisión con análisis de causa raíz documentado.
• Formar al personal directamente implicado en sistemas de IA bajo currículos reconocidos internacionalmente que integren los marcos técnicos y regulatorios vigentes.

8. Conclusión: el cumplimiento como ventaja competitiva

El cumplimiento del Reglamento UE 2024/1689 no es una carga administrativa adicional sino un marco estructurante que disciplina la adopción de IA en entornos industriales críticos. Las organizaciones que se anticipan al cumplimiento convierten la regulación en ventaja competitiva porque pueden contratar con empresas que auditan a sus proveedores bajo estándares formales, desplegar sistemas de IA en mercados regulados sin fricciones y reducir sustancialmente el riesgo económico y reputacional asociado a sanciones. Las organizaciones que posponen el cumplimiento acumulan riesgo material que se manifestará en el momento de la primera inspección o del primer incidente. El responsable de prevención y el compliance officer deben actuar ahora: el marco ya está en vigor.

Referencias

[1] Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. DOUE L 2024/1689, 12.7.2024.

[2] Ley 31/1995, de 8 de noviembre, de Prevención de Riesgos Laborales. BOE núm. 269, de 10 de noviembre de 1995.

[3] Real Decreto 39/1997, de 17 de enero, por el que se aprueba el Reglamento de los Servicios de Prevención. BOE núm. 27, de 31 de enero de 1997.

[4] Real Decreto 1644/2008, de 10 de octubre, por el que se establecen las normas para la comercialización y puesta en servicio de las máquinas. BOE núm. 246, de 11 de octubre de 2008.

[5] Real Decreto Legislativo 5/2000, de 4 de agosto, por el que se aprueba el texto refundido de la Ley sobre Infracciones y Sanciones en el Orden Social.

[6] ISO/IEC 42001:2023. Information technology — Artificial intelligence — Management system. International Organization for Standardization, 2023.

[7] ISO 19011:2018. Directrices para la auditoría de sistemas de gestión. International Organization for Standardization, 2018.

[8] Reglamento (UE) 2023/1230 del Parlamento Europeo y del Consejo, de 14 de junio de 2023, relativo a las máquinas (sustituye a la Directiva 2006/42/CE).

Sobre los autores

Ing. José Gabriel Aguirre Andrade, MSc.

Ingeniero Electricista con Magíster en Ciencias Aplicadas (Física) y Magíster en Inteligencia Artificial Aplicada por la Universidad Técnica Particular de Loja, Ecuador. CEO de AutoSafeGroup Corp (Florida, EE.UU.), Fainca Group (Ecuador) y Robonergy (Colombia). Certificaciones internacionales: CMSE TÜV NORD, HAZOP/CIBERHAZOP TÜV SÜD, NFPA 70. Desarrollador principal del motor AI SAFE y del modelo matemático HRNt.

Ing. Benita Cañizalez de Aguirre, MSc.

Ingeniero Industrial con Magíster Scientiarum en Gerencia de Empresas, mención Gerencia de Operaciones, por la Universidad del Zulia, Maracaibo, Venezuela. Co-autora del modelo matemático HRNt publicado en Revista Conecta Libertad (Ecuador) y Revista Ethos. Experta en gestión de operaciones industriales con enfoque en seguridad integral y optimización de procesos.