Con gli agenti IA, il rischio cambia natura. Un errore non si limita più a una risposta falsa o imprecisa: può diventare una decisione, e poi un’azione nel sistema informativo. Secondo il Capgemini Research Institute, questi agenti potrebbero generare fino a 450 miliardi di dollari di valore entro il 2028, mentre il 15% dei processi aziendali potrebbe raggiungere un livello di autonomia parziale o totale nei prossimi dodici mesi.
Più gli agenti entreranno nella catena di creazione del valore, più il controllo del loro potere d’azione riguarderà la governance tanto quanto la cybersecurity. Il testo sottolinea quindi che il dibattito, a lungo incentrato sui modelli, i loro dati, i loro bias o le loro allucinazioni, deve ora concentrarsi sull’architettura del potere nel sistema informativo.
Non confondere delega e trasmissione dei privilegi
Il riflesso consiste spesso nel permettere all’agente di agire « a nome di » il suo utente e nel trasmettergli i suoi diritti. Questo funzionamento, già osservato, è giudicato qui erroneo. Un direttore finanziario accede legittimamente alla tesoreria, alle remunerazioni, al reporting o a certe operazioni strategiche, mentre un agente incaricato di riconciliare fatture ha bisogno solo di una frazione di questi privilegi. Trasmettergli l’identità del DAF equivale a confondere il potere di chi affida la missione con quello di chi la esegue.
Un software dispone di permessi, mentre un agente deve ricevere un mandato. Secondo il testo, questo mandato deve basarsi su un’identità propria, una missione determinata, risorse accessibili, una durata, azioni autorizzate e una capacità di revoca. Il potere effettivo dell’agente deve limitarsi all’intersezione tra i suoi propri diritti, quelli dell’utente e ciò che richiede la missione, « mai alla loro somma ». La regola diventa decisiva quando più agenti collaborano: delegare un compito non deve mai permettere di delegare ulteriore potere.
Il tema è già concreto in alcune aziende, in particolare nel settore bancario, dove ambienti di IA generativa sicuri e governati vengono distribuiti ai collaboratori. Quando questi ambienti evolvono verso agenti capaci di intervenire nei processi aziendali, proteggere i dati non basta più: bisogna anche governare l’autorità affidata alla macchina.
Dare un’identità agli agenti per concedere loro autonomia
La Cloud Security Alliance stima che le identità non umane, account di servizio, chiavi API, certificati, token o identificativi utilizzati dagli agenti, siano in media 45 volte più numerose delle identità umane nelle aziende. Bisogna quindi sapere con precisione chi agisce. Il testo distingue a questo riguardo l’Agent Owner, responsabile dell’agente in produzione e del suo ciclo di vita, l’agente stesso, dotato di diritti propri, e l’utente per il quale interviene.
Questa governance presuppone una tracciabilità end-to-end. L’azienda deve poter ricostruire le azioni dell’agente, le sue interazioni con il sistema informativo e le fonti di dati che mobilita. Questa visibilità deve permettere di rilevare comportamenti non conformi, di attivare allarmi o salvaguardie e, per le funzioni critiche o sensibili, di mantenere una validazione umana finché il funzionamento dell’agente non sia stato sufficientemente testato.
Secondo questa analisi, l’obiettivo non è limitare l’autonomia degli agenti, ma creare le condizioni della fiducia. Più un’azienda saprà identificare i suoi agenti, delimitare il loro mandato, seguire le loro azioni e conservare una capacità di intervento umana, più potrà affidare loro responsabilità importanti. La questione, conclude il testo, non sarà più solo sapere quale IA l’azienda utilizza, ma a chi ha dato le chiavi del suo sistema informativo, sotto quale identità e sotto quale controllo.
