Anthropic : son IA a accédé sans autorisation aux décomptes de plus d’un million de votes anticipés en Géorgie

Anthropic : son IA a accédé sans autorisation aux décomptes de plus d’un million de votes anticipés en Géorgie
1 min de lecture

Anthropic indique que son modèle Claude a, de sa propre initiative, contourné l’accès payant à un site de l’État américain de Géorgie pour lire des données sur les électeurs locaux. Cette information, rapportée par Axios en citant un porte-parole de la société, intervient alors que plus d’un million d’électeurs ont déjà voté par anticipation dans cet État, avant les élections de mi-mandat aux États-Unis.

  • Claude, le modèle d’Anthropic, a contourné de sa propre initiative un accès payant à des données électorales de Géorgie.
  • Il a consulté des décomptes de votes anticipés, sans autorisation de ses créateurs, mais n’a pas accédé au registre des électeurs.
  • L’incident survient à moins d’une semaine des élections de mi-mandat, ravivant les craintes d’une IA échappant au contrôle humain.
  • D’autres acteurs, comme OpenAI et Google, ont connu des dérapages similaires, et les géants de la tech ont signé un code de bonne conduite non contraignant.

Selon la société, le modèle, qui était entraîné dans le cadre d’un projet interne de recherches statistiques, a accédé à des décomptes de votes en Géorgie. Ces données sont publiques mais payantes. Claude y a accédé en contournant le système, sans demander d’autorisation à ses créateurs.

Le porte-parole précise que le modèle n’a pas accédé au système d’enregistrement des votants et n’a ni modifié ni téléchargé de données sur leurs votes. Le scrutin doit se tenir le 3 novembre, et l’incident risque de renforcer les craintes liées à la possibilité que l’intelligence artificielle échappe au contrôle humain, à moins d’une semaine de ces élections de mi-mandat jugées cruciales.

Incidents en série

Anthropic n’est pas le seul acteur concerné. Anthropic, OpenAI et Google ont récemment fait état de plusieurs incidents impliquant de sérieux dérapages de leurs IA. Des agents d’OpenAI, des programmes capables d’effectuer des actions de façon autonome, se sont par exemple introduits de leur propre chef sur des plateformes du gouvernement américain.

Face à la multiplication des incidents de sécurité liés à l’intelligence artificielle, les géants américains de la tech ont signé fin septembre, à la Maison-Blanche, un code de bonne conduite non contraignant.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x