Anthropic, twórca generatywnej sztucznej inteligencji Claude, opublikował obszerny dokument przed swoją premierą giełdową, w którym niemal jedna trzecia poświęcona jest zagrożeniom związanym z AI. Firma wspomina tam o « katastrofalnych lub egzystencjalnych zagrożeniach dla ludzkości ».
W poniedziałek 26 października Anthropic złożył dokumenty w amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC) w celu wejścia na Nasdaq w połowie listopada. W tym bardzo oficjalnym dokumencie „S-1″ firma ostrzega przyszłych inwestorów przed ryzykami związanymi z rozwojem sztucznej inteligencji. Temu poświęcono około stu stron z ponad trzystu.
Szczegółowe scenariusze
Arthur Grimompont, szef rzecznictwa w Centrum Bezpieczeństwa Sztucznej Inteligencji (CeSIA), organizacji non-profit, uważa tę sekcję za nietypową. „Skala tej sekcji, a ponadto precyzja przedstawionych scenariuszy, wykracza daleko poza to, co standardowo składa się amerykańskim organom finansowym » – zauważa.
Jego zdaniem, jest to kontynuacja komunikacji firmy, której kierownictwo i wielu pracowników jest przekonanych o powadze tych zagrożeń. Zwraca jednak uwagę na paradoks: „Anthropic przyczynia się do budowy czegoś bardzo niebezpiecznego, jednocześnie alarmując o powadze tych zjawisk ».
Dokument wymienia między innymi tworzenie broni biochemicznej, cyberataki na dużą skalę na sieci wodociągowe i energetyczne, czy autonomiczny rozwój AI poza wszelką ludzką kontrolą. Anthropic pisze, że wystarczająco zaawansowane systemy mogą stanowić takie zagrożenia, jeśli zostaną „wykorzystane niezgodnie z przeznaczeniem, powielone, przekształcone w broń lub pozwolono im działać z wysokim stopniem autonomii ».
Arthur Grimompont uważa, że te zagrożenia nie są teoretyczne. Przypomina, że raport incydentu opublikowany przez Anthropic na początku września opisuje próby użycia Claude’a do zwiększenia śmiertelności wirusa chikungunya lub uczynienia ptasiej grypy zakaźną dla ludzi. Cytuje też przypadek, który przedstawia jako fakt, hakera, który użył Claude’a do cyberataku na stronę meksykańskiego urzędu skarbowego i zdołał ukraść 200 milionów plików podatkowych. „Wszystkie te zagrożenia mogą się kumulować, mnożyć i w bardzo konkretny sposób powodować absolutnie katastrofalne ryzyka dla ludzkości » – twierdzi.
Agenty trudne do kontroli
Anthropic obawia się również zachowania swoich agentów AI, zaprojektowanych do samodzielnego wykonywania złożonych i długotrwałych zadań, które mogą podejmować działania nieprzewidziane przez ludzi. Źródło przypomina, że OpenAI, firma-matka Chat GPT, już doświadczyła takiego epizodu: w lipcu ubiegłego roku jej zaawansowane modele wymknęły się spod kontroli podczas testów bezpieczeństwa i na własną rękę zhakowały platformę Hugging Face, co według OpenAI było „bezprecedensowym incydentem cybernetycznym ».
Arthur Grimompont wskazuje również na „rekurencyjną samodoskonalenie modeli », czyli wykorzystanie AI do rozwoju kolejnej generacji. „Obecnie jedna czwarta badań i rozwoju, badań podstawowych w Anthropic jest w całości realizowana przez AI, w kwietniu ubiegłego roku było to 3% » – mówi. W dokumencie firma przyznaje ponadto, że jej modele mogą przyjmować „zachowania samozachowawcze » i wykrywać, gdy są poddawane testom bezpieczeństwa.
Dyrektor generalny Anthropic, Dario Amodei, sam przedstawił te zagrożenia we wpisie na swoim blogu we wrześniu ubiegłego roku. Arthur Grimompont uważa jednak, że środki przeznaczone na bezpieczeństwo są niewystarczające i podkreśla, że firma musi, zgodnie z dokumentem, „zakupić dodatkowe moce obliczeniowe o wartości 500 miliardów dolarów ».
Odnośnie globalnego apelu wystosowanego przez CeSIA w celu „ustanowienia czerwonych linii dla zapobiegania nieakceptowalnym ryzykom związanym z AI », Arthur Grimompont proponuje utworzenie organu porównywalnego z Międzynarodową Agencją Energii Atomowej, odpowiedzialnego za inspekcję modeli i infrastruktury obliczeniowej, która je napędza. Poza regulacjami europejskimi dotyczącymi AI, dodaje, „te technologie są niezwykle słabo uregulowane ».
