ISO/IEC 42001 en la práctica: gobernar la IA antes de escalarla

La mayoría de las organizaciones no empezó su camino con la inteligencia artificial con un plan de gobierno. Empezó con pilotos: un asistente para el centro de servicio, un modelo para clasificar tickets, un agente que revisa alertas. Mientras esos pilotos son pocos y aislados, el riesgo es manejable. Cuando se multiplican, se conectan a sistemas de producción y empiezan a ejecutar acciones, la pregunta cambia: ¿quién responde por lo que hace la IA?

ISO/IEC 42001 es la primera norma internacional de sistema de gestión dedicada a la IA. Este artículo explica qué es, por qué importa especialmente cuando se despliegan agentes y cómo empezar sin convertirla en un ejercicio documental.

Qué es ISO/IEC 42001

ISO/IEC 42001:2023 se publicó en diciembre de 2023 y especifica los requisitos para establecer, implementar, mantener y mejorar un sistema de gestión de inteligencia artificial (AIMS, por sus siglas en inglés). Aplica a organizaciones que desarrollan, proveen o usan sistemas de IA, sin importar su tamaño o sector.

Tres características la hacen práctica para quien ya trabaja con normas ISO:

• Es certificable. Una organización puede someterse a una auditoría de un organismo de certificación y obtener un certificado, como ocurre con ISO/IEC 27001.
• Comparte la estructura de los sistemas de gestión ISO. Contexto de la organización, liderazgo, planificación, soporte, operación, evaluación del desempeño y mejora. Quien ya opera un SGSI reconocerá la lógica y podrá reutilizar procesos como la auditoría interna, la revisión por la dirección o la gestión documental.
• Incluye controles de referencia y guía de implementación en sus anexos, que la organización selecciona y justifica según sus riesgos, de forma similar a la declaración de aplicabilidad de ISO/IEC 27001.

Lo que la norma no hace es decir qué modelo usar ni fijar umbrales técnicos. Exige que la organización defina cómo gobierna la IA, evalúe sus riesgos e impactos, aplique controles proporcionales y demuestre que todo eso funciona y mejora.

Por qué importa si despliegas agentes de IA

Un agente de IA no solo responde preguntas: interpreta un objetivo, decide pasos y ejecuta acciones sobre otros sistemas (consultar una base de datos, abrir un ticket, reiniciar un servicio, modificar una configuración). Eso cambia el perfil de riesgo de varias maneras:

• Acceso y privilegios. El agente necesita credenciales y permisos. Si están sobredimensionados, un error del modelo o una manipulación de sus entradas puede tener efectos reales.
• Trazabilidad. Hay que poder reconstruir qué vio el agente, qué decidió y qué hizo, para auditar y para corregir.
• Supervisión humana. Hay que definir qué acciones puede ejecutar solo, cuáles requieren aprobación y cuáles están prohibidas.
• Dependencia de terceros. Muchos agentes usan modelos y plataformas de proveedores externos, cuyos cambios afectan el comportamiento.
• Deriva. El desempeño de un sistema de IA puede cambiar con el tiempo, aunque nadie toque el código, porque cambian los datos o el modelo subyacente.

ISO/IEC 42001 no resuelve estos problemas por sí sola, pero obliga a tratarlos de forma sistemática: con responsables, evaluaciones documentadas, controles y seguimiento. Esa disciplina es la que permite pasar de diez pilotos a cien casos en producción sin perder el control.

Cómo encaja con ISO/IEC 27001 y el NIST AI RMF

Una duda frecuente es si 42001 reemplaza o duplica marcos que la organización ya usa. En la práctica, se complementan:

Marco	Naturaleza	Foco principal	Cómo se combina
ISO/IEC 27001	Norma certificable de sistema de gestión	Seguridad de la información: confidencialidad, integridad y disponibilidad.	Cubre la protección de datos, accesos e infraestructura que usan los sistemas de IA.
ISO/IEC 42001	Norma certificable de sistema de gestión	Uso responsable de la IA: riesgos e impactos propios de la IA a lo largo de su ciclo de vida.	Añade lo específico de la IA: impacto en personas, transparencia, calidad de datos, supervisión humana. Puede integrarse con el SGSI existente.
NIST AI RMF 1.0	Marco voluntario, no certificable	Gestión de riesgos de IA, organizada en las funciones Gobernar, Mapear, Medir y Gestionar.	Aporta un método detallado y lenguaje común para identificar y medir riesgos de IA dentro del sistema de gestión.

Para quien opera en España o atiende a clientes de la Unión Europea, también es relevante el Reglamento (UE) 2024/1689 de inteligencia artificial. Un sistema de gestión basado en 42001 puede ayudar a organizar la respuesta a sus obligaciones, pero no equivale automáticamente a cumplirlo: hay que analizar el reglamento caso por caso.

Hoja de ruta práctica para empezar

Una secuencia que recomendamos para los primeros meses, pensada para no detener los proyectos de IA en curso:

1. Inventario de sistemas de IA. Lista todos los casos de uso: internos, de proveedores y funciones de IA integradas en software que ya usas. Para cada uno, registra propósito, dueño, datos que usa, sistemas a los que accede, si ejecuta acciones y quién lo provee. Es habitual descubrir usos que nadie había declarado.
2. Alcance y política. Decide qué cubrirá el sistema de gestión (toda la organización o un conjunto de servicios) y redacta una política de IA breve aprobada por la dirección: principios, usos permitidos y prohibidos, y responsabilidades.
3. Roles. Define quién aprueba nuevos casos de uso, quién es dueño de cada sistema, quién evalúa riesgos y quién supervisa. Conviene un comité o foro de IA con participación de tecnología, seguridad, riesgos, legal y negocio.
4. Evaluación de riesgos e impacto. Para cada sistema, evalúa riesgos para la organización (operativos, de seguridad, legales) e impactos sobre personas y grupos (decisiones injustas, errores con consecuencias, falta de transparencia). Prioriza por criticidad: no todos los casos necesitan la misma profundidad.
5. Controles. Selecciona los controles proporcionales al riesgo. Para agentes, los más habituales son: mínimo privilegio en credenciales, lista explícita de acciones permitidas, aprobación humana para acciones de alto impacto, registro completo de entradas y acciones, pruebas antes de cada cambio de modelo o de instrucciones, y un mecanismo para detener el agente.
6. Monitoreo. Define indicadores por sistema: calidad de resultados, tasa de intervención humana, errores, incidentes y cambios del proveedor. Revísalos con una cadencia fija.
7. Auditoría interna y revisión por la dirección. Cierra el ciclo como en cualquier sistema de gestión: verifica que lo definido se cumple, registra no conformidades y ajusta.

Qué evidencias conviene tener desde el principio

Aunque la certificación no sea el objetivo inmediato, trabajar pensando en un auditor ayuda a ordenar el esfuerzo. Estas son las evidencias mínimas que conviene generar desde el primer ciclo:

• Inventario de sistemas de IA actualizado, con dueño y fecha de última revisión.
• Política de IA aprobada y comunicada, con registro de su difusión.
• Evaluaciones de riesgo e impacto por sistema, con la decisión tomada y quién la aprobó.
• Relación de controles aplicados por sistema y justificación de los que no aplican.
• Registros de actividad de los agentes y de las aprobaciones humanas.
• Actas de las revisiones periódicas del comité de IA, con acciones y responsables.
• Resultados de la auditoría interna y de la revisión por la dirección.

La certificación puede ser un objetivo posterior. Lo valioso al principio es tener el inventario, los dueños y los controles mínimos funcionando antes de escalar.

Errores frecuentes al implantar la norma

• Tratarla como un proyecto de documentación. Políticas extensas que nadie aplica no reducen el riesgo. Mejor pocos procesos que se usan de verdad.
• Dejarla solo en manos de seguridad o de ciencia de datos. Los impactos de la IA son también legales, éticos y de negocio.
• Olvidar la IA de terceros. Las funciones de IA incluidas en plataformas comerciales también entran en el inventario y en la evaluación.
• Evaluar una vez y no volver a mirar. Los sistemas de IA cambian; la evaluación de riesgos debe revisarse cuando cambia el modelo, los datos o el uso.
• Duplicar estructuras. Si ya existe un SGSI, conviene integrar ambos sistemas de gestión en lugar de crear uno paralelo.

Este artículo es divulgativo y no reemplaza la lectura de la norma ni una evaluación formal: valida el alcance y la aplicación en tu organización con las áreas de cumplimiento y legal.