Los agentes de IA, capaces de tomar iniciativas en el sistema de información de las empresas, trastocan los modelos de gobernanza existentes. Identidad, control de accesos, trazabilidad y supervisión humana se convierten en elementos esenciales para conciliar autonomía y seguridad, en un momento en que el AI Act entra progresivamente en aplicación.
- Los agentes de IA actúan en los sistemas de la empresa y desafían los modelos de gobernanza actuales.
- Cada agente debe tener una identidad, un responsable, permisos limitados y trazabilidad.
- La empresa debe definir cuándo exigir la intervención humana en las acciones sensibles.
- El AI Act se aplica a los sistemas de alto riesgo desde el 2 de diciembre de 2027, pero la gobernanza debe construirse desde ya.
El modelo de gobernanza tradicional se basa en un principio simple: una persona corresponde a una identidad, a unos derechos y a un responsable claramente identificado. Con los agentes de IA, esta lógica se ve desafiada. Estos programas pueden crearse rápidamente, evolucionar con el tiempo y ver ampliados sus accesos según sus misiones. Desplegados fuera de los procesos habituales, pueden hacer que la empresa pierda la pista del número de agentes activos, de sus responsables y de lo que realmente están autorizados a hacer.
Según el informe Okta Global CISO Insights 2026, el 81 % de los responsables de seguridad encuestados afirma estar preocupado por los accesos excesivos concedidos a la IA, mientras que solo el 47 % declara poder identificar la totalidad de los agentes de IA presentes en su entorno. El AI Act no regula los «agentes de IA» como categoría. Sin embargo, impone, para ciertos sistemas y ciertos niveles de riesgo, una mayor capacidad para identificar, encuadrar, supervisar y controlar los sistemas desplegados. La cuestión ya no es solo si la empresa utiliza IA, sino qué está autorizado a actuar en su nombre.
Para los sistemas de alto riesgo, el reglamento impone exigencias en materia de gestión de riesgos, trazabilidad, supervisión y control humano. Antes de permitir que un agente intervenga en un proceso crítico, hay que saber a qué datos puede acceder, qué aplicaciones puede utilizar, qué acciones puede realizar, quién es responsable y cómo suspender sus accesos si es necesario. El texto se inscribe además en un movimiento más amplio, con normativas como DORA y NIS2, que convergen hacia una misma exigencia: identificar los recursos, comprender los accesos y ser capaz de demostrar lo sucedido.
La identidad, base de la cadena de responsabilidad
Cada agente debe poder ser identificado, vinculado a un equipo o a un responsable, disponer de un perímetro de acceso definido y ver sus permisos reevaluados regularmente. Un agente no es un colaborador, y no se trata de gestionarlo como un empleado. El reto es poder reconstruir la cadena de responsabilidad cuando actúa, es decir, vincular una acción automatizada a una autorización y a un responsable. Algunas tareas pueden automatizarse por completo, otras deben permanecer sujetas a una validación humana o poder interrumpirse cuando presentan un riesgo particular.
Cuatro pasos para retomar el control
Cartografiar lo existente. El primer paso consiste en inventariar las herramientas y los agentes utilizados, sus accesos a los datos y las personas que los controlan. Este inventario también debe cubrir los agentes creados en los entornos de desarrollo y los flujos de trabajo automatizados que escapan a los procesos informáticos tradicionales.
Atribuir una identidad y un perímetro. Un agente debe disponer de un propietario designado y de autorizaciones correspondientes a su misión, según los principios de privilegios mínimos, accesos limitados en el tiempo y separación de responsabilidades. Su naturaleza de máquina no debe conducir a concederle más confianza que a un usuario humano.
Mantener al humano en el circuito. Para las acciones sensibles, la empresa debe definir cuándo es necesaria una intervención humana, ya sea una aprobación previa a la ejecución o la capacidad de interrumpir rápidamente a un agente que sale de su perímetro.
Verificar el valor de negocio. Los proyectos autónomos iniciados sin un objetivo preciso ni supervisión pueden multiplicar los riesgos sin demostrar su utilidad. Conviene, por tanto, definir el problema a resolver, el valor esperado y la manera de medir los resultados, lo que también permite determinar el nivel de autonomía necesario.
Para los sistemas de IA de alto riesgo contemplados en el Anexo III, las normas entrarán en aplicación a partir del 2 de diciembre de 2027. La fuente recuerda, sin embargo, que la gobernanza de un agente se construye en el momento en que la empresa le da el derecho de actuar, y no en la fecha límite reglamentaria. Al tratar a estos agentes como una cuestión de identidad, y no solo de cumplimiento o tecnología, las organizaciones pueden pasar de una lógica de «shadow AI» a una IA gobernada.
