Sin una gobernanza adecuada, los agentes de IA corren el riesgo de pasar, de manera autónoma, invisible y rápida, de ser un activo a un desastre para las empresas. Sysdig ha anunciado Sysdig AI Defense, un producto que aporta seguridad y gobernanza en tiempo de ejecución (o runtime) a estos agentes.
- Sysdig lanza AI Defense para vigilar agentes de IA en tiempo de ejecución.
- El producto supervisa cada acción del agente y puede bloquear las riesgosas antes de que se completen.
- Mantiene un inventario en vivo, vincula cada agente a un responsable humano y aplica políticas que empiezan en modo alerta.
- Registra todo en un historial de auditoría que contrasta lo que el agente dice con lo que hace.
Para Loris Degioanni, fundador y director técnico (CTO) de Sysdig, la necesidad es clara. « La IA pasa de la respuesta a la acción. Primero hubo máquinas para conversar. Hoy, la IA agentiva hace cosas por nosotros », explica.
El problema radica en la capacidad de estos agentes para ir más allá de lo que se les ha pedido, más rápido de lo que se puede controlar. Sysdig destaca la necesidad de vigilar lo que hacen de forma continua.
Seguir cada acción, hasta el final
Según Sysdig, AI Defense observa y supervisa cada acción de un agente, desde su punto de partida hasta su finalización. La tarea no es nada sencilla. Un agente puede adquirir rápidamente nuevas capacidades al intentar cumplir su misión. Cada acción puede ser registrada, pero detrás de ella pueden esconderse al menos cinco procesos, visibles solo por el núcleo del sistema operativo, que modifican discretamente el funcionamiento del agente.
« El agente desplegado por la mañana no siempre es el que está en funcionamiento por la tarde », advierte Sysdig, que añade que « solo el núcleo muestra lo que realmente se ha ejecutado ». Si la seguridad exige bloquear una acción, la respuesta debe ser inmediata. « Se necesitan soluciones que funcionen en tiempo de ejecución, muy rápidamente, y que puedan desencadenar una respuesta », subraya Loris Degioanni. « Cualquier respuesta de bloqueo debe intervenir en tiempo real, en línea, mientras la acción se desarrolla y antes de que se complete. »
Para el directivo, la distinción entre lo que el agente declara y lo que hace es central. « Un agente puede informar mal de una llamada a una herramienta, pero no puede reescribir sus interacciones con el sistema o el mundo exterior », afirma. « El relato que un agente hace de sus acciones es un contexto útil, pero no es una prueba. Cuando lo que informa y lo que sus acciones muestran no coinciden, tienes una detección. »
Inventario, políticas y trazabilidad
Sysdig afirma que su producto ofrece varias funciones distintas. Establece un inventario en vivo de los agentes, de sus arneses, de los modelos, de los servidores MCP, de las habilidades y de las extensiones, construido a partir de la telemetría de ejecución. Cada agente puede ser vinculado a un responsable humano identificado.
Las acciones agentivas consideradas riesgosas pueden ser detectadas, sometidas a una validación humana o bloqueadas antes de ser llevadas a cabo. Modelos de políticas predefinidos pueden incorporar reglas asociadas a repositorios como el OWASP Top 10 for LLM Applications. Cada política comienza en modo alerta, y luego pasa a modo aplicación cuando la organización está preparada.
Las acciones del agente y las de AI Defense se registran sobre la marcha. Un gráfico de acciones en vivo presenta cada paso en orden, contrastando lo que el agente dice que hace y lo que realmente hace, a qué puede acceder y en nombre de qué autoridad actúa. El resultado, según la empresa, es un registro de auditoría inalterable que indica qué políticas se aplicaron, cuándo y quién las validó.
El tema se enmarca en un contexto más amplio. El IBM Institute for Business Value, en un estudio dedicado a la gobernanza de la IA agentiva, señala que « cuando los agentes de IA pasan de proyectos piloto a producción, los sistemas toman decisiones autónomas en volúmenes que ninguna gobernanza humana puede supervisar razonablemente ». Según este estudio, « para 2027, las empresas prevén desplegar una media de 1.661 agentes de IA, lo que supone un aumento del 38 % respecto a hoy ».
