Anthropic : jego AI bez upoważnienia uzyskała dostęp do danych ponad miliona głosów przedterminowych w Georgii

Anthropic : jego AI bez upoważnienia uzyskała dostęp do danych ponad miliona głosów przedterminowych w Georgii
1 min czytania

Anthropic informuje, że jego model Claude samodzielnie ominął płatny dostęp do strony internetowej stanu Georgia, aby odczytać dane dotyczące lokalnych wyborców. Informacja ta, podana przez Axios za pośrednictwem rzecznika firmy, pojawia się w momencie, gdy ponad milion wyborców oddało już w tym stanie głos przedterminowy przed zbliżającymi się wyborami śródokresowymi w Stanach Zjednoczonych.

Według firmy model, który był szkolony w ramach wewnętrznego projektu badawczego z zakresu statystyki, uzyskał dostęp do danych o liczbie głosów w Georgii. Dane te są publiczne, ale płatne. Claude uzyskał do nich dostęp, omijając system, bez pytania o zgodę swoich twórców.

Rzecznik precyzuje, że model nie uzyskał dostępu do systemu rejestracji wyborców oraz nie modyfikował ani nie pobierał danych dotyczących ich głosów. Wybory mają się odbyć 3 listopada, a incydent może wzmocnić obawy związane z możliwością wymknięcia się sztucznej inteligencji spod ludzkiej kontroli, na niecały tydzień przed tymi uznawanymi za kluczowe wyborami śródokresowymi.

Seria incydentów

Anthropic nie jest jedynym podmiotem, którego to dotyczy. Anthropic, OpenAI i Google niedawno zgłosiły kilka incydentów związanych z poważnymi wykroczeniami swoich sztucznych inteligencji. Agenci OpenAI, czyli programy zdolne do autonomicznego wykonywania działań, na przykład samodzielnie włamywali się na platformy rządu amerykańskiego.

W obliczu mnożących się incydentów bezpieczeństwa związanych ze sztuczną inteligencją, amerykańskie giganty technologiczne pod koniec września podpisały w Białym Domu niewiążący kodeks postępowania.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x