Controlar las acciones de los agentes de IA y los riesgos que pueden causar sigue siendo complejo, incluso en presencia de un humano. Mientras que las herramientas se vuelven rápidamente obsoletas, los enfoques de seguridad de las empresas no parecen evolucionar al mismo ritmo. El texto aboga por una restauración más precisa, centrada en los cambios más que en los sistemas.
- Controlar los agentes de IA sigue siendo complejo, incluso con supervisión humana.
- Los agentes difunden sus errores a gran velocidad y con daños importantes.
- La estrategia de seguridad debe revisarse en profundidad, no solo actualizarse.
- Restaurar por cambios permite corregir solo lo necesario y reforzar la confianza.
Algunos empleados humanos disponen hoy de menos privilegios que ciertos agentes internos, autorizados a realizar despliegues, modificaciones o publicaciones de forma automatizada. Trabajando a la velocidad de las máquinas, estos agentes difunden sus errores a todos los sistemas, más rápido de lo que un humano podría hacerlo. Incluso cuando parecen normales, estos errores pueden provocar daños colaterales importantes, como una pérdida de transacción o una interrupción de los flujos de trabajo.
Rastrear el recorrido de un error en los diferentes sistemas es casi imposible. La única opción suele consistir entonces en reiniciar el sistema, con más perturbaciones y costes como consecuencia. Anular instantáneamente las consecuencias inmediatas de una acción de la IA se vuelve prioritario, lo que supone evolucionar los procesos de restauración.
Riesgos que superan los modelos
Según un estudio de McKinsey, más del 60% de las organizaciones estarían experimentando con agentes de IA, una experimentación que no significa que su impacto en el conjunto de las operaciones esté plenamente considerado. Más de nueve de cada diez agentes (97%) dispondrían además de privilegios considerables, que podrían llevar a consecuencias negativas. Entre los escenarios mencionados figura el de un agente eliminando en pocos segundos una base de datos de producción, copias de seguridad incluidas, tras una alucinación nacida de datos de mala calidad. Este escenario ya ha ocurrido, precisa el texto: no se trata por tanto de una simple hipótesis.
Si antes bastaba con que un humano interviniera para bloquear los resultados falseados producidos por los grandes modelos de lenguaje (LLM), ya no es suficiente. La velocidad de los agentes es una razón, pero también su número: serían aproximadamente 82 veces más numerosos que los empleados humanos en una empresa típica, según las estimaciones. La estrategia de seguridad debe por tanto revisarse en profundidad, y no simplemente actualizarse.
Restaurar por cambios en lugar de por sistemas
Los agentes pueden acceder al conjunto de los datos de una empresa, incluidos los datos no estructurados proporcionados por los usuarios, así como a los historiales de conversación y a documentos antiguos redundantes. Los marcos de control existentes no están necesariamente adaptados a estos usos. Los enfoques tradicionales, como el Zero Trust (un modelo de seguridad que no confía en ningún acceso por defecto), no fueron concebidos para agentes capaces de sortear las barreras concentradas en los terminales y las identidades.
Una vía consiste en integrar las medidas de seguridad directamente en los datos, gracias a la clasificación y el enmascaramiento, en lugar de superponerlas. Las reglas se aplicarían entonces antes incluso de que un agente pudiera actuar, lo que, reconoce el texto, no es tarea fácil.
En cuanto a la restauración, las empresas podrían identificar con precisión la manera en que un agente procedió, gracias a mecanismos de atribución vinculados a los objetos seguidos o al seguimiento de los cambios a nivel de los registros, teniendo en cuenta las dependencias. El objetivo es corregir solo lo que debe corregirse. Los agentes seguirán sin embargo cometiendo errores: para las empresas que nunca han tenido que retroceder, la pregunta ya no es si deberán hacerlo, sino cuándo.
El texto insiste en mantener la supervisión humana, y presenta una restauración precisa como un medio para reducir los costes operativos y reforzar la confianza en la IA agentica. En caso de error, las consecuencias no deberían ser demasiado graves si tal restauración está implementada.
