Con los agentes de IA, el riesgo cambia de naturaleza. Un error ya no se limita a una respuesta falsa o imprecisa: puede convertirse en una decisión y luego en una acción en el sistema de información. Según el Capgemini Research Institute, estos agentes podrían generar hasta 450.000 millones de dólares de valor para 2028, mientras que el 15 % de los procesos empresariales podrían alcanzar un nivel de autonomía parcial o total en los próximos doce meses.
Cuanto más entren los agentes en la cadena de creación de valor, más el control de su poder de acción dependerá de la gobernanza tanto como de la ciberseguridad. El texto subraya así que el debate, durante mucho tiempo centrado en los modelos, sus datos, sus sesgos o sus alucinaciones, debe ahora abordar la arquitectura del poder en el sistema de información.
No confundir delegación y transmisión de privilegios
El reflejo suele consistir en permitir que el agente actúe « en nombre de » su usuario y transmitirle sus derechos. Este funcionamiento, ya observado, se considera aquí erróneo. Un director financiero accede legítimamente a la tesorería, las remuneraciones, los informes o ciertas operaciones estratégicas, mientras que un agente encargado de conciliar facturas solo necesita una fracción de estos privilegios. Transmitirle la identidad del DAF equivale a confundir el poder de quien da la misión con el de quien la ejecuta.
Un software dispone de permisos, mientras que un agente debe recibir un mandato. Según el texto, este mandato debe basarse en una identidad propia, una misión determinada, recursos accesibles, una duración, acciones autorizadas y una capacidad de revocación. El poder efectivo del agente debe limitarse a la intersección entre sus propios derechos, los del usuario y lo que requiere la misión, « nunca a su suma ». La regla se vuelve decisiva cuando varios agentes colaboran: delegar una tarea nunca debe permitir delegar más poder.
El tema ya es concreto en algunas empresas, especialmente en el sector bancario, donde se despliegan entornos de IA generativa seguros y gobernados para los colaboradores. Cuando estos entornos evolucionan hacia agentes capaces de intervenir en los procesos empresariales, proteger los datos ya no basta: también hay que gobernar la autoridad confiada a la máquina.
Dar una identidad a los agentes para concederles autonomía
La Cloud Security Alliance estima que las identidades no humanas, cuentas de servicio, claves de API, certificados, tokens o identificadores utilizados por los agentes, son en promedio 45 veces más numerosas que las identidades humanas en las empresas. Por tanto, hay que saber con precisión quién actúa. El texto distingue a este respecto al Agent Owner, responsable del agente en producción y de su ciclo de vida, al agente mismo, dotado de derechos propios, y al usuario para el que interviene.
Esta gobernanza supone una trazabilidad de extremo a extremo. La empresa debe poder reconstituir las acciones del agente, sus interacciones con el sistema de información y las fuentes de datos que moviliza. Esta visibilidad debe permitir detectar comportamientos no conformes, activar alertas o salvaguardas y, para las funciones críticas o sensibles, mantener una validación humana mientras el funcionamiento del agente no haya sido suficientemente probado.
Según este análisis, el objetivo no es limitar la autonomía de los agentes, sino crear las condiciones de confianza. Cuanto mejor sepa una empresa identificar a sus agentes, delimitar su mandato, seguir sus acciones y conservar una capacidad de intervención humana, más podrá confiarles responsabilidades importantes. La pregunta, concluye el texto, ya no será solo qué IA utiliza la empresa, sino a quién le ha dado las llaves de su sistema de información, bajo qué identidad y bajo qué control.
