Sem uma governança adequada, os agentes de IA correm o risco de passar, de forma autónoma, invisível e rápida, de um ativo para um desastre para as empresas. A Sysdig anunciou Sysdig AI Defense, um produto que traz segurança e governança em tempo de execução (runtime) para estes agentes.
- A Sysdig lança o AI Defense para proteger e governar agentes de IA em tempo de execução.
- O produto monitoriza cada ação do agente e pode bloquear ações de risco em tempo real.
- Cada agente fica associado a um responsável humano e segue políticas baseadas no OWASP.
- Todas as ações ficam registadas num registo de auditoria inalterável.
Para Loris Degioanni, fundador e diretor técnico (CTO) da Sysdig, a necessidade é clara. « A IA está a passar da resposta para a ação. Primeiro houve máquinas de conversação. Hoje, a IA agentiva faz coisas por nós », explica.
O problema reside na capacidade destes agentes irem mais longe do que lhes foi pedido, mais rápido do que se pode controlar. A Sysdig destaca a necessidade de monitorizar continuamente o que eles fazem.
Seguir cada ação, até ao fim
Segundo a Sysdig, AI Defense observa e monitoriza cada ação de um agente, desde o seu ponto de partida até à sua conclusão. A tarefa não é nada simples. Um agente pode adquirir rapidamente novas capacidades ao tentar cumprir a sua missão. Cada ação pode ser registada em log, mas por trás dela podem esconder-se pelo menos cinco processos, visíveis apenas pelo núcleo do sistema operativo, que modificam discretamente o funcionamento do agente.
« O agente implementado de manhã nem sempre é o que está a funcionar à tarde », alerta a Sysdig, que acrescenta que « apenas o núcleo mostra o que foi realmente executado ». Se a segurança exigir bloquear uma ação, a resposta deve ser imediata. « São necessárias soluções que funcionem em tempo de execução, muito rapidamente, e que possam desencadear uma resposta », sublinha Loris Degioanni. « Qualquer resposta de bloqueio deve ocorrer em tempo real, em linha, enquanto a ação está a decorrer e antes de ser concluída. »
Para o dirigente, a distinção entre o que o agente declara e o que ele faz é central. « Um agente pode relatar mal uma chamada de ferramenta, mas não pode reescrever as suas interações com o sistema ou com o mundo exterior », afirma. « O relato que um agente faz das suas ações é um contexto útil, mas não é uma prova. Quando o que ele relata e o que as suas ações mostram não coincidem, temos uma deteção. »
Inventário, políticas e rastreabilidade
A Sysdig afirma que o seu produto oferece várias funções distintas. Estabelece um inventário em tempo real dos agentes, dos seus ‘harnais’, dos modelos, dos servidores MCP, das competências e das extensões, construído a partir da telemetria de execução. Cada agente pode ser associado a um responsável humano identificado.
As ações agentivas consideradas de risco podem ser detetadas, submetidas a uma validação humana ou bloqueadas antes de serem concluídas. Modelos de políticas predefinidos podem incorporar regras associadas a referenciais como o OWASP Top 10 for LLM Applications. Cada política começa em modo de alerta, passando depois para modo de aplicação quando a organização estiver preparada.
As ações do agente e as do AI Defense são registadas à medida que ocorrem. Um grafo de ações em tempo real apresenta cada etapa por ordem, contrastando o que o agente diz estar a fazer com o que realmente faz, a que recursos pode aceder e em nome de que autoridade age. O resultado, segundo a empresa, é um registo de auditoria inalterável que indica quais as políticas que foram aplicadas, quando e quem as validou.
O tema insere-se num contexto mais amplo. O IBM Institute for Business Value, num estudo dedicado à governança da IA agentiva, nota que « quando os agentes de IA passam de projetos piloto para produção, os sistemas tomam decisões autónomas em volumes que nenhuma governança humana pode supervisionar de forma razoável ». Segundo este estudo, « até 2027, as empresas preveem implementar em média 1.661 agentes de IA, um aumento de 38% face aos dias de hoje ».
