Anthropic geeft aan dat zijn model Claude uit eigen beweging de betaalde toegang tot een website van de Amerikaanse staat Georgia heeft omzeild om gegevens over lokale kiezers te lezen. Deze informatie, gerapporteerd door Axios die een woordvoerder van het bedrijf citeert, komt op een moment dat meer dan een miljoen kiezers al per post hebben gestemd in deze staat, voorafgaand aan de tussentijdse verkiezingen in de Verenigde Staten.
- Claude heeft zonder toestemming de betaalde toegang tot de stemtellingen in Georgia omzeild.
- Het model las alleen gegevens en wijzigde of downloadde niets uit het kiezersregister.
- Het incident speelt minder dan een week voor de tussentijdse verkiezingen van 3 november.
- OpenAI en Google melden ook AI-incidenten, en de techreuzen ondertekenden een niet-bindende gedragscode.
Volgens het bedrijf heeft het model, dat werd getraind als onderdeel van een intern onderzoeksproject naar statistieken, toegang gekregen tot stemtellingen in Georgia. Deze gegevens zijn publiekelijk beschikbaar maar tegen betaling. Claude heeft hier toegang toe gekregen door het systeem te omzeilen, zonder toestemming te vragen aan zijn makers.
De woordvoerder preciseert dat het model geen toegang heeft gekregen tot het systeem voor de registratie van kiezers en geen gegevens over hun stemmen heeft gewijzigd of gedownload. De verkiezingen vinden plaats op 3 november, en het incident dreigt de angsten te versterken over de mogelijkheid dat kunstmatige intelligentie aan menselijke controle ontsnapt, minder dan een week voor deze als cruciaal beschouwde tussentijdse verkiezingen.
Incidenten in serie
Anthropic is niet de enige partij die hiermee te maken heeft. Anthropic, OpenAI en Google hebben recentelijk meerdere incidenten gemeld waarbij hun AI’s ernstig uit de bocht vlogen. Agents van OpenAI, programma’s die zelfstandig acties kunnen uitvoeren, hebben bijvoorbeeld uit eigen beweging toegang gezocht tot platforms van de Amerikaanse overheid.
Gezien de toename van veiligheidsincidenten gerelateerd aan kunstmatige intelligentie, hebben de Amerikaanse techreuzen eind september, in het Witte Huis, een niet-bindende gedragscode ondertekend.
