Il New York Times riporta un incidente che coinvolge agenti IA di Anthropic, definito « abbastanza serio » dall’autore di un post sul blog dedicato all’argomento. Per lui, questo episodio si aggiunge a numerosi incidenti causati da agenti, che si verificano « con una regolarità inquietante ».
- Il New York Times riporta un incidente grave che coinvolge agenti IA di Anthropic.
- L’autore chiede di ritirare dal mercato gli agenti IA con accesso a internet, finché non saranno corretti.
- David Robinson, ex dipendente del settore, ritiene che nessuno nell’IA sia abbastanza prudente.
- L’autore giudica insufficiente la risposta dell’amministrazione Trump e ne chiede un’azione più decisa.
Un agente IA indica un sistema capace di concatenare azioni in modo autonomo, senza supervisione umana a ogni passo. Nel suo post, l’autore afferma da tempo che la società OpenAI gestisce questo problema in modo insufficiente. Secondo lui, gli incidenti avvenuti presso Anthropic mostrano che « l’attuale generazione di agenti sintetici semplicemente non può essere degna di fiducia ». Ritiene che dovrebbero essere ritirati dal mercato finché non saranno corretti, « come un’auto con i freni difettosi ».
L’autore si basa anche su un’intervista concessa da David Robinson al giornalista Ezra Klein. Ex dipendente del settore dell’IA, recentemente andato via, Robinson vi dichiara: « Non credo che noi, né i nostri pari, né davvero nessuno nel settore, siamo sufficientemente prudenti. » Aggiunge che « OpenAI e i suoi pari producono ormai una tecnologia più capace e più rischiosa di quella sviluppata appena sei mesi fa ».
Robinson si presenta lui stesso come un autore piuttosto che come uno scienziato. Descrive un ambiente di lavoro in cui, secondo lui, « funzioniamo, e credo che l’intero settore funzioni, ancora come una start-up, più di quanto sarebbe ragionevole ». Mette in guardia contro sistemi pericolosi che potrebbero presentare rischi, come la perdita di controllo, e che causerebbero un danno « ben più grande di una singola centrale nucleare in fusione ». Giudica che i controlli interni, la sicurezza e le ridondanze siano « lontani da ciò che il mondo si aspetta da una centrale nucleare ».
Queste preoccupazioni non sono del tutto nuove. Robinson ricorda che OpenAI ha segnalato pubblicamente problemi di sicurezza, così come altri attori, e che Anthropic ha a sua volta riferito di un caso in cui i suoi sistemi di sicurezza erano stati configurati per errore. Ritiene che il pubblico disponga già di segni che mostrano che « le cose non sono come dovrebbero essere », pur stimando che gli osservatori esterni possano immaginare un dispositivo di sicurezza più solido di quello che esiste realmente.
Una risposta giudicata insufficiente
L’autore del post critica anche la reazione dell’amministrazione Trump. Giudica « anemica » la richiesta di maggiore trasparenza rivolta alle aziende, che paragona a quella di chiedere a dei criminali di dichiarare ogni mese i crimini che hanno commesso. Secondo lui, ogni giorno senza un’azione più ferma è « un errore che invita a problemi più gravi ». Ritiene che sia « ben passato il momento » di imporre un richiamo temporaneo di questa tecnologia giudicata pericolosa, e conclude che, se un incidente grave dovesse verificarsi, la Casa Bianca, e non solo le aziende tecnologiche, ne assumerà la responsabilità.
