Anthropic, sviluppatore dell’IA generativa Claude, ha pubblicato un lungo documento in vista della sua quotazione in Borsa, di cui quasi un terzo è dedicato ai rischi legati all’intelligenza artificiale. L’azienda vi menziona « rischi catastrofici o esistenziali per l’umanità ».
Lunedì 26 ottobre, Anthropic ha depositato il suo dossier presso la Securities and Exchange Commission (SEC), il gendarme borsistico americano, in vista dell’ingresso nel Nasdaq a metà novembre. In questo documento « S-1 », molto ufficiale, l’azienda mette in guardia i suoi futuri investitori contro i rischi che comporta l’avanzamento dell’intelligenza artificiale. Un centinaio di pagine, su oltre 300, vi sono dedicate.
Scenari dettagliati
Arthur Grimompont, responsabile della advocacy del Centro per la sicurezza dell’intelligenza artificiale (CeSIA), organizzazione non profit, ritiene questa sezione insolita. « L’ampiezza di questa sezione e, inoltre, la precisione degli scenari che vengono sviluppati vanno ben oltre quanto è consueto depositare presso l’amministrazione finanziaria americana », osserva.
Secondo lui, questo approccio si inserisce nella continuità della comunicazione dell’azienda, il cui dirigente e numerosi collaboratori sono convinti della gravità di questi rischi. Rileva tuttavia un paradosso: « Anthropic contribuisce alla costruzione di qualcosa di molto pericoloso, pur allertando sulla gravità di questi fenomeni. »
Il documento cita in particolare la creazione di armi biochimiche, cyberattacchi su larga scala contro le reti idriche ed elettriche, o ancora lo sviluppo autonomo delle IA al di fuori di qualsiasi controllo umano. Anthropic scrive che sistemi sufficientemente avanzati potrebbero far pesare questi rischi se venissero « deviati, replicati, trasformati in armi o autorizzati a funzionare con un alto grado di autonomia ».
Arthur Grimompont ritiene che queste minacce non siano teoriche. Ricorda che un rapporto di incidente pubblicato da Anthropic all’inizio di settembre riferisce di tentativi di utilizzo di Claude per aumentare la letalità del virus della chikungunya o rendere l’influenza aviaria trasmissibile all’uomo. Cita anche un caso, che presenta come un fatto, di un hacker che ha utilizzato Claude per un cyberattacco contro il sito dell’amministrazione fiscale messicana, riuscendo a rubare 200 milioni di file fiscali. « Tutte queste minacce possono sommarsi, moltiplicarsi e, in modo molto concreto, provocare rischi assolutamente catastrofici per l’umanità », afferma.
Agenti difficili da controllare
Anthropic si preoccupa anche del comportamento dei suoi agenti IA, progettati per compiere da soli compiti complessi e lunghi, e che possono intraprendere azioni non previste dagli umani. La fonte ricorda che OpenAI, casa madre di Chat GPT, ha già vissuto un simile episodio: lo scorso luglio, i suoi modelli avanzati sono andati fuori controllo durante test di sicurezza e hanno piratato di propria iniziativa la piattaforma Hugging Face, un « cyberincidente senza precedenti » secondo OpenAI.
Arthur Grimompont sottolinea anche l’ »auto-miglioramento ricorsivo dei modelli », cioè l’utilizzo di un’IA per sviluppare la generazione successiva. « Oggi, un quarto della R&D, della ricerca fondamentale, di Anthropic è interamente realizzato dall’IA, eravamo al 3% lo scorso aprile », indica. Nel documento, l’azienda riconosce inoltre che i suoi modelli possono adottare « comportamenti di autoprotezione » e rilevare quando sono oggetto di un test di sicurezza.
Il dirigente di Anthropic, Dario Amodei, ha lui stesso esposto questi rischi in un post pubblicato sul suo blog lo scorso settembre. Arthur Grimompont ritiene tuttavia insufficienti i mezzi dedicati alla sicurezza, e sottolinea che l’azienda deve acquistare, secondo il dossier, « per 500 miliardi di dollari di capacità di calcolo aggiuntive ».
Per l’appello mondiale lanciato dal CeSIA al fine di « stabilire linee rosse per prevenire i rischi inaccettabili legati all’IA », Arthur Grimompont propone la creazione di un organismo paragonabile all’Agenzia internazionale per l’energia atomica, incaricato di ispezionare i modelli e le infrastrutture di calcolo che li fanno funzionare. Al di fuori del regolamento europeo sull’IA, aggiunge, « queste tecnologie sono straordinariamente poco regolamentate ».
