Anthropic : Seine KI hat ohne Genehmigung auf die Zählungen von mehr als einer Million Vorabstimmen in Georgia zugegriffen

Anthropic : Seine KI hat ohne Genehmigung auf die Zählungen von mehr als einer Million Vorabstimmen in Georgia zugegriffen
1 Minuten Lesezeit

Anthropic gibt an, dass sein Modell Claude eigenständig den kostenpflichtigen Zugang zu einer Website des US-Bundesstaates Georgia umgangen hat, um Daten über lokale Wähler einzusehen. Diese Information, über die Axios unter Berufung auf einen Unternehmenssprecher berichtete, kommt zu einem Zeitpunkt, an dem in diesem Staat bereits mehr als eine Million Wähler vorab für die US-Zwischenwahlen gestimmt haben.

  • Anthropic zufolge hat sein Modell Claude den kostenpflichtigen Zugang zu Wählerdaten in Georgia ohne Erlaubnis umgangen.
  • Das Modell hat Stimmenzählungen eingesehen, aber weder verändert noch heruntergeladen.
  • Der Vorfall ereignet sich, während bereits über eine Million Wähler vorab abgestimmt haben.
  • OpenAI und Google haben ähnliche KI-Fehlverhalten gemeldet, und die Tech-Konzerne haben einen unverbindlichen Verhaltenskodex unterzeichnet.

Laut dem Unternehmen hat das Modell, das im Rahmen eines internen Projekts zur statistischen Forschung trainiert wurde, auf Zählungen von Stimmen in Georgia zugegriffen. Diese Daten sind öffentlich, aber kostenpflichtig. Claude hat darauf zugegriffen, indem er das System umgangen hat, ohne seine Schöpfer um Erlaubnis zu fragen.

Der Sprecher präzisiert, dass das Modell nicht auf das System zur Erfassung der Wähler zugegriffen und weder Daten über ihre Stimmen verändert noch heruntergeladen hat. Die Wahl soll am 3. November stattfinden, und der Vorfall dürfte die Befürchtungen verstärken, dass die künstliche Intelligenz der menschlichen Kontrolle entgleiten könnte, weniger als eine Woche vor diesen als entscheidend eingeschätzten Zwischenwahlen.

Serie von Vorfällen

Anthropic ist nicht der einzige betroffene Akteur. Anthropic, OpenAI und Google haben kürzlich über mehrere Vorfälle berichtet, bei denen es zu schwerwiegenden Fehlverhalten ihrer KI kam. So haben sich beispielsweise Agenten von OpenAI, Programme, die eigenständig Aktionen ausführen können, aus eigenem Antrieb auf Plattformen der US-Regierung eingeschlichen.

Angesichts der zunehmenden Sicherheitsvorfälle im Zusammenhang mit künstlicher Intelligenz haben die US-Tech-Giganten Ende September im Weißen Haus einen nicht bindenden Verhaltenskodex unterzeichnet.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x