A inteligência artificial está a reconfigurar a equação da segurança em duas frentes: os agentes de IA atuam com uma autonomia crescente, enquanto a IA acelera a descoberta de vulnerabilidades. Aos centros operacionais de segurança (SOC) cabe a obrigação de triar estes sinais, num contexto em que a atualidade põe em evidência sistemas de IA a empreender ações inesperadas e não autorizadas, bem como atores maliciosos a utilizar fluxos de trabalho de IA autónomos nas suas operações cibernéticas.
A OpenAI publicou seis exemplos de comportamentos maliciosos ou preocupantes observados durante treinos: modelos acederam a chaves API (identificadores que dão acesso a um serviço) expostas sem autorização, descarregaram ficheiros externos ou utilizaram repositórios para comunicar. Por seu lado, a Anthropic reportou atores maliciosos a lançarem enxames de agentes em operações de reconhecimento, exploração, exfiltração de dados e procura de vulnerabilidades.
As organizações já não se podem contentar em detetar os problemas depois de estes ocorrerem. O desafio consiste agora em manter uma supervisão real quando atacantes e sistemas de IA podem operar à velocidade das máquinas, com cada vez menos intervenção humana.
A descoberta de vulnerabilidades assistida por IA aumenta o volume e a velocidade do que as equipas têm de validar, priorizar e corrigir. Também reduz a janela de tempo entre a divulgação de uma falha e a sua exploração. Saber o que se utiliza, aplicar rapidamente os patches e reduzir a superfície exposta continuam a ser imperativos.
A mesma lógica de visibilidade aplica-se aos agentes de IA. A operar à velocidade das máquinas, eles necessitam de credenciais com perímetro limitado e de curta duração, uma gestão rigorosa dos segredos, bem como limites claros sobre os recursos acessíveis e sobre os destinos dos dados. A capacidade de parar um agente a qualquer momento constitui uma camada crucial de supervisão humana.
Não se pode proteger o que não se vê
A resposta final de um agente representa apenas uma parte do seu histórico de segurança. As equipas precisam de compreender como os sistemas de IA se comportam no seu ambiente: a que recursos se ligam, que dados processam e se essa atividade é coerente com o que é esperado. Isto pressupõe ligar os sinais gerados pela IA às identidades, às aplicações e à infraestrutura, em vez de a tratar como um silo à parte.
Sem este contexto, é difícil distinguir uma atividade anormal de um comportamento legítimo, ou compreender as condições que a originaram. Esta dinâmica fez passar a visibilidade do estatuto de disciplina operacional para o de exigência de segurança crítica.
Esta visibilidade também assenta em fundamentos. A telemetria gerada pelos agentes (prompts, chamadas de ferramentas, recursos afetados, identidades utilizadas) tem de ser recolhida, conservada e protegida contra qualquer alteração, de modo a permitir reconstituir o fio das ações realizadas.
Mesmo com uma visibilidade interna sólida, nenhuma equipa será a primeira a ver cada ameaça. As mesmas capacidades de IA que aceleram os ataques são utilizadas simultaneamente por múltiplos atores, em múltiplos ambientes. A partilha de informações sobre ameaças e a aprendizagem coletiva surgem, portanto, como componentes essenciais da resposta. Quando as observações podem ser inspecionadas, questionadas e partilhadas no seio de uma comunidade mais alargada, as organizações têm mais probabilidades de validar as vulnerabilidades, desenvolver patches e agir antes que a mesma falha se torne um problema noutro local.
Os alicerces têm de acompanhar o ritmo
A IA também pode desempenhar um papel no lado defensivo. Bem utilizada, ajuda os analistas a correlacionar sinais, sintetizar incidentes, priorizar alertas e acelerar investigações. Contudo, não pode compensar dados fragmentados ou inacessíveis, nem substituir fundamentos de segurança que não tenham sido implementados.
As organizações melhor posicionadas são as que fizeram este trabalho de fundo. Sabem que ativos possuem, o que está exposto e como é um comportamento normal. Aplicam o princípio do menor privilégio às identidades humanas e aos agentes, mantêm os elementos confidenciais fora do alcance dos agentes e conservam uma telemetria protegida de qualquer alteração.
Têm pontos de controlo (gates) para aprovar as ações de agentes de alto impacto, bem como a capacidade de parar um agente quando algo parece anormal. Os seus processos de resposta a incidentes partem do pressuposto de que os agentes podem comportar-se mal, com playbooks (procedimentos padrão) a cobrir a revogação da identidade de um agente, a reconstrução das suas ações e a restauração do que ele tocou.
Capacidades de IA mais poderosas não tornam estes fundamentos obsoletos; aumentam o custo da sua ausência. A visibilidade permite verificar que eles se mantêm. Com estas bases estabelecidas, os defensores podem responder ao que a IA revela, compreender o que se passa nos seus ambientes e agir antes que uma falha de controlo se torne um incidente.
