Os agentes de IA, capazes de tomar iniciativas no sistema de informação das empresas, estão a perturbar os modelos de governação existentes. Identidade, controlo de acessos, rastreabilidade e supervisão humana tornam-se elementos essenciais para conciliar autonomia e segurança, numa altura em que o AI Act entra progressivamente em aplicação.
- Os agentes de IA tomam iniciativas nos sistemas das empresas e perturbam os modelos de governação existentes.
- Cada agente deve ser identificado, ter um responsável e um perímetro de acesso definido.
- Para os sistemas de alto risco, o AI Act exige rastreabilidade, monitorização e controlo humano.
- As regras aplicam-se a partir de 2 de dezembro de 2027, mas a governação deve começar quando o agente recebe o direito de agir.
O modelo de governação tradicional assenta num princípio simples: uma pessoa corresponde a uma identidade, a direitos e a um responsável claramente identificado. Com os agentes de IA, esta lógica é posta em causa. Estes programas podem ser criados rapidamente, evoluir ao longo do tempo e ver os seus acessos alargados de acordo com as suas missões. Implementados fora dos processos habituais, podem fazer com que a empresa perca o rasto do número de agentes ativos, dos seus responsáveis e do que estão realmente autorizados a fazer.
De acordo com o relatório Okta Global CISO Insights 2026, 81% dos responsáveis de segurança inquiridos afirmam estar preocupados com os acessos excessivos concedidos à IA, enquanto apenas 47% declaram conseguir identificar todos os agentes de IA presentes no seu ambiente. O AI Act não regulamenta os «agentes de IA» enquanto categoria. Impõe, no entanto, para certos sistemas e certos níveis de risco, uma capacidade acrescida de identificar, enquadrar, monitorizar e controlar os sistemas implementados. A questão deixa, portanto, de ser apenas saber se a empresa utiliza IA, mas sim o que está autorizado a agir em seu nome.
Para os sistemas de alto risco, o regulamento impõe exigências em matéria de gestão de riscos, rastreabilidade, monitorização e controlo humano. Antes de permitir que um agente intervenha num processo crítico, é necessário saber a que dados pode aceder, que aplicações pode utilizar, que ações pode realizar, quem é o responsável e como suspender os seus acessos se necessário. O texto insere-se, além disso, num movimento mais amplo, com destaque para o DORA e o NIS2, que convergem para uma mesma exigência: identificar os recursos, compreender os acessos e ser capaz de demonstrar o que aconteceu.
A identidade, base da cadeia de responsabilidade
Cada agente deve poder ser identificado, associado a uma equipa ou a um responsável, dispor de um perímetro de acesso definido e ver as suas permissões reavaliadas regularmente. Um agente não é um colaborador, e não se trata de o gerir como um funcionário. O desafio é poder reconstruir a cadeia de responsabilidade quando ele age, ou seja, ligar uma ação automatizada a uma autorização e a um responsável. Algumas tarefas podem ser totalmente automatizadas, outras devem permanecer sujeitas a uma validação humana ou poder ser interrompidas quando apresentam um risco particular.
Quatro etapas para retomar o controlo
Cartografar o existente. A primeira etapa consiste em inventariar as ferramentas e os agentes utilizados, os seus acessos aos dados e as pessoas que os controlam. Este inventário deve também abranger os agentes criados nos ambientes de desenvolvimento e os fluxos de trabalho automatizados que escapam aos processos informáticos tradicionais.
Atribuir uma identidade e um perímetro. Um agente deve dispor de um proprietário designado e de autorizações correspondentes à sua missão, de acordo com os princípios de privilégios mínimos, acessos limitados no tempo e separação de responsabilidades. A sua natureza de máquina não deve conduzir a conceder-lhe mais confiança do que a um utilizador humano.
Manter o humano no circuito. Para as ações sensíveis, a empresa deve definir quando é necessária uma intervenção humana, seja uma aprovação prévia à execução ou a capacidade de interromper rapidamente um agente que sai do seu perímetro.
Verificar o valor para o negócio. Projetos autónomos lançados sem objetivo preciso nem supervisão podem multiplicar os riscos sem demonstrar a sua utilidade. Convém, portanto, definir o problema a resolver, o valor esperado e a forma de medir os resultados, o que permite também determinar o nível de autonomia necessário.
Para os sistemas de IA de alto risco abrangidos pelo Anexo III, as regras entrarão em aplicação a partir de 2 de dezembro de 2027. A fonte recorda, no entanto, que a governação de um agente se constrói no momento em que a empresa lhe dá o direito de agir, e não na data limite regulamentar. Ao tratar estes agentes como uma questão de identidade, e não apenas de conformidade ou tecnologia, as organizações podem passar de uma lógica de «shadow AI» para uma IA governada.
