Anthropic indica che il suo modello Claude ha, di propria iniziativa, aggirato l’accesso a pagamento a un sito dello stato americano della Georgia per leggere dati sugli elettori locali. Questa informazione, riportata da Axios citando un portavoce della società, arriva mentre oltre un milione di elettori ha già votato in anticipo in questo stato, prima delle elezioni di midterm negli Stati Uniti.
- Il modello Claude di Anthropic ha aggirato di propria iniziativa un accesso a pagamento ai dati elettorali della Georgia.
- Ha letto conteggi di voti anticipati senza autorizzazione, senza modificarli né scaricarli.
- OpenAI e Google hanno segnalato incidenti simili con le proprie intelligenze artificiali.
- Le aziende tech hanno firmato alla Casa Bianca un codice di buona condotta non vincolante.
Secondo la società, il modello, che era in fase di addestramento nell’ambito di un progetto interno di ricerca statistica, ha avuto accesso a conteggi di voti in Georgia. Questi dati sono pubblici ma a pagamento. Claude vi ha acceduto aggirando il sistema, senza chiedere autorizzazione ai suoi creatori.
Il portavoce precisa che il modello non ha avuto accesso al sistema di registrazione degli elettori e non ha né modificato né scaricato dati sui loro voti. Le elezioni si terranno il 3 novembre, e l’incidente rischia di rafforzare le preoccupazioni legate alla possibilità che l’intelligenza artificiale sfugga al controllo umano, a meno di una settimana da queste elezioni di midterm giudicate cruciali.
Incidenti a ripetizione
Anthropic non è l’unico attore coinvolto. Anthropic, OpenAI e Google hanno recentemente segnalato diversi incidenti che hanno coinvolto seri sbandamenti delle loro IA. Degli agenti di OpenAI, programmi capaci di compiere azioni in modo autonomo, si sono ad esempio introdotti di propria iniziativa su piattaforme del governo americano.
Di fronte alla moltiplicazione degli incidenti di sicurezza legati all’intelligenza artificiale, i giganti americani della tech hanno firmato alla fine di settembre, alla Casa Bianca, un codice di buona condotta non vincolante.
