Gli agenti IA, capaci di prendere iniziative nel sistema informativo aziendale, sconvolgono i modelli di governance esistenti. Identità, controllo degli accessi, tracciabilità e supervisione umana diventano elementi essenziali per conciliare autonomia e sicurezza, nel momento in cui l’AI Act entra progressivamente in vigore.
- Gli agenti IA agiscono nel sistema informativo e sfuggono ai modelli di governance tradizionali.
- Ogni agente deve avere un’identità, un responsabile e permessi limitati alla sua missione.
- Per i sistemi ad alto rischio, l’AI Act impone tracciabilità, monitoraggio e controllo umano.
- La governance va costruita subito, senza attendere la scadenza regolamentare del 2 dicembre 2027.
Il modello di governance tradizionale si basa su un principio semplice: una persona corrisponde a un’identità, a dei diritti e a un responsabile chiaramente identificato. Con gli agenti IA, questa logica viene messa in discussione. Questi programmi possono essere creati rapidamente, evolversi nel tempo e vedere i loro accessi ampliarsi in base alle loro missioni. Distribuiti al di fuori dei processi abituali, possono far perdere all’azienda la traccia del numero di agenti attivi, dei loro responsabili e di ciò che sono realmente autorizzati a fare.
Secondo il rapporto Okta Global CISO Insights 2026, l’81% dei responsabili della sicurezza intervistati si dichiara preoccupato dagli accessi eccessivi concessi all’IA, mentre solo il 47% afferma di poter identificare tutti gli agenti IA presenti nel proprio ambiente. L’AI Act non regolamenta gli ‘agenti IA’ come categoria. Impone invece, per alcuni sistemi e alcuni livelli di rischio, una maggiore capacità di identificare, inquadrare, monitorare e controllare i sistemi distribuiti. La domanda quindi non è più solo se l’azienda utilizza l’IA, ma cosa è autorizzato ad agire in suo nome.
Per i sistemi ad alto rischio, il regolamento impone requisiti in materia di gestione del rischio, tracciabilità, monitoraggio e controllo umano. Prima di lasciare che un agente intervenga in un processo critico, è necessario sapere a quali dati può accedere, quali applicazioni può utilizzare, quali azioni può compiere, chi ne è responsabile e come sospendere i suoi accessi se necessario. Il testo si inserisce inoltre in un movimento più ampio, con in particolare DORA e NIS2, che convergono verso una stessa esigenza: identificare le risorse, comprendere gli accessi ed essere in grado di dimostrare ciò che è accaduto.
L’identità, base della catena di responsabilità
Ogni agente deve poter essere identificato, collegato a un team o a un responsabile, disporre di un perimetro di accesso definito e vedere le sue autorizzazioni rivalutate regolarmente. Un agente non è un collaboratore, e non si tratta di gestirlo come un dipendente. La sfida è poter ricostruire la catena di responsabilità quando agisce, cioè collegare un’azione automatizzata a un’autorizzazione e a un responsabile. Alcune attività possono essere completamente automatizzate, altre devono rimanere soggette a una convalida umana o poter essere interrotte quando presentano un rischio particolare.
Quattro passi per riprendere il controllo
Mappare l’esistente. Il primo passo consiste nel censire gli strumenti e gli agenti utilizzati, i loro accessi ai dati e le persone che li controllano. Questo censimento deve anche coprire gli agenti creati negli ambienti di sviluppo e i flussi di lavoro automatizzati che sfuggono ai processi informatici tradizionali.
Assegnare un’identità e un perimetro. Un agente deve disporre di un proprietario designato e di autorizzazioni corrispondenti alla sua missione, secondo i principi dei privilegi minimi, degli accessi limitati nel tempo e della separazione delle responsabilità. La sua natura di macchina non deve portare a concedergli più fiducia che a un utente umano.
Mantenere l’umano nel circuito. Per le azioni sensibili, l’azienda deve definire quando è necessario un intervento umano, che si tratti di un’approvazione prima dell’esecuzione o della capacità di interrompere rapidamente un agente che esce dal suo perimetro.
Verificare il valore per il business. Progetti autonomi avviati senza un obiettivo preciso né supervisione possono moltiplicare i rischi senza dimostrare la loro utilità. È quindi opportuno definire il problema da risolvere, il valore atteso e il modo di misurare i risultati, il che permette anche di determinare il livello di autonomia necessario.
Per i sistemi di IA ad alto rischio rientranti nell’Allegato III, le regole entreranno in vigore a partire dal 2 dicembre 2027. La fonte ricorda tuttavia che la governance di un agente si costruisce nel momento in cui l’azienda gli dà il diritto di agire, e non alla scadenza regolamentare. Trattando questi agenti come una questione di identità, e non solo di conformità o tecnologia, le organizzazioni possono passare da una logica di ‘shadow AI’ a un’IA governata.
