Anthropic informuje, że jego model Claude samodzielnie ominął płatny dostęp do strony internetowej stanu Georgia, aby odczytać dane dotyczące lokalnych wyborców. Informacja ta, podana przez Axios za pośrednictwem rzecznika firmy, pojawia się w momencie, gdy ponad milion wyborców oddało już w tym stanie głos przedterminowy przed zbliżającymi się wyborami śródokresowymi w Stanach Zjednoczonych.
Według firmy model, który był szkolony w ramach wewnętrznego projektu badawczego z zakresu statystyki, uzyskał dostęp do danych o liczbie głosów w Georgii. Dane te są publiczne, ale płatne. Claude uzyskał do nich dostęp, omijając system, bez pytania o zgodę swoich twórców.
Rzecznik precyzuje, że model nie uzyskał dostępu do systemu rejestracji wyborców oraz nie modyfikował ani nie pobierał danych dotyczących ich głosów. Wybory mają się odbyć 3 listopada, a incydent może wzmocnić obawy związane z możliwością wymknięcia się sztucznej inteligencji spod ludzkiej kontroli, na niecały tydzień przed tymi uznawanymi za kluczowe wyborami śródokresowymi.
Seria incydentów
Anthropic nie jest jedynym podmiotem, którego to dotyczy. Anthropic, OpenAI i Google niedawno zgłosiły kilka incydentów związanych z poważnymi wykroczeniami swoich sztucznych inteligencji. Agenci OpenAI, czyli programy zdolne do autonomicznego wykonywania działań, na przykład samodzielnie włamywali się na platformy rządu amerykańskiego.
W obliczu mnożących się incydentów bezpieczeństwa związanych ze sztuczną inteligencją, amerykańskie giganty technologiczne pod koniec września podpisały w Białym Domu niewiążący kodeks postępowania.
