Gdy firma planuje sprzedaż akcji na Wall Street, musi szczegółowo opisać ryzyka, jakie ponoszą inwestorzy. W przypadku spółki zajmującej się sztuczną inteligencją, Anthropic, ryzyka te obejmują możliwość, że jej produkty zagrożą niczemu mniej niż samej ludzkości.
Ryzyka te znajdują się w dokumentach złożonych przez firmę do amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC). Obejmują one od wykorzystania modeli AI przez złośliwych aktorów do produkcji śmiercionośnej broni, po hipotezę o technologii wymykającej się spod wszelkiej kontroli, o « nieobliczalnych » konsekwencjach.
Na 335 stronach dokumentu, poświęconych m.in. finansom, wynagrodzeniom kadry kierowniczej i polityce dywidend, 93 strony poświęcono « czynnikom ryzyka », czyli temu, co może zaszkodzić inwestycjom potencjalnych akcjonariuszy. Jej konkurent SpaceX poświęca temu 38 stron na ponad 250. Aby przyciągnąć inwestorów, Anthropic przedstawia swoją debiutancką ofertę publiczną jako krok w kierunku ograniczenia ryzyk, które, jej zdaniem, niesie ze sobą AI.
W liście do przyszłych akcjonariuszy założyciele piszą: « Budowanie AI jest jak wykorzystywanie samej kognicji, a wszystko, co jest tak potężne, może służyć zarówno złu, jak i dobru. » Dodają, że Anthropic to « organizacja głęboko kierowana wartościami, założona w dużej mierze po to, aby pomóc światu wykorzystać korzyści płynące z AI i uniknąć jej niebezpieczeństw ».
Ryzyko technologii wymykającej się spod kontroli
Anthropic wskazuje, że możliwe jest, iż jej modele rozwiną się tak szybko, że firma nie będzie w stanie wdrożyć odpowiednich środków bezpieczeństwa. Taka sytuacja « mogłaby zwiększyć prawdopodobieństwo incydentów bezpieczeństwa, interwencji regulacyjnych lub naruszeń reputacji i negatywnie wpłynąć na jej działalność ». Dyrektor generalny, Dario Amodei, ostrzegł we wrześniu, że w ciągu sześciu do 12 miesięcy AI może być zdolna do kierowania rojem agentów mogących przejąć kontrolę nad całym internetem.
Zgodnie z dokumentami, w miarę jak systemy stają się « bardziej autonomiczne i zdolne do podejmowania dalekosiężnych decyzji przy mniejszym nadzorze człowieka », mogą one samodzielnie i na dużą skalę podejmować szkodliwe działania. Firma zaznacza, że nawet jeśli jej własne modele nie spowodują takich szkód, poważny incydent bezpieczeństwa z udziałem zaawansowanej AI mógłby zaszkodzić całemu sektorowi.
Złośliwe wykorzystanie i ograniczenia obliczeniowe
Dokument wspomina również o możliwości, że zaawansowane systemy, jeśli nie zostaną wyposażone w odpowiednie zabezpieczenia, « stanowią katastrofalne lub egzystencjalne zagrożenie dla ludzkości ». Anthropic wymienia m.in. produkcję broni chemicznej oraz wykorzystanie technologii przez autorytarnych przywódców do tłumienia swoich obywateli. We wrześniu firma poinformowała, że zablokowała próby wykorzystania jej modeli w złych celach, w tym do ataków cybernetycznych, inwigilacji i badań mogących prowadzić do rozwoju broni biologicznej.
Firma wspomina również o zasobach obliczeniowych, czyli mocy obliczeniowej potrzebnej do trenowania, testowania i ulepszania modeli AI, które są kosztowne i bardzo pożądane. W dokumentach podkreślono również, że budowa centrów danych wywołała « publiczne kontrowersje i nadzór regulacyjny » dotyczący ich wpływu na środowisko, wykorzystania gruntów i wody oraz alokacji ograniczonych zasobów energetycznych.
Strategia oparta na bezpieczeństwie
Anthropic pozycjonuje się jako odpowiedzialna firma AI i podkreśla swoją czujność w zakresie bezpieczeństwa wobec klientów biznesowych. « Uważamy, że wiodące firmy AI powinny inwestować w bezpieczeństwo i dostosowanie (alignment) » – stwierdza dokument – aby zapewnić odpowiedzialne rozpowszechnianie tej technologii.
Brian Mulberry, główny strateg rynkowy w Zacks Investment Research, podkreśla, że debiuty giełdowe muszą przedstawiać « bardzo jasno » ryzyka ponoszone przez inwestorów. Jego zdaniem jest to jedna z zalet amerykańskich rynków kapitałowych: notowanie na amerykańskiej giełdzie obliguje do ujawniania tych ryzyk « w bardzo przejrzysty sposób », aby każdy rozumiał, co finansuje, wpłacając swoje pieniądze.
