Amerykański start-up Anthropic, twórca sztucznej inteligencji Claude, przygotowuje się do debiutu na giełdzie. Opublikował swój prospekt wejścia na Wall Street, w którym ostrzega przed ryzykiem związanym z własnymi modelami. Choć kilka mediów wspomina o listopadzie, data nie jest jeszcze znana.
Ten debiut giełdowy może pobić wszystkie rekordy, w tym SpaceX. Anthropic wykazuje szybki wzrost, ale jednocześnie ponosi ogromne straty. Firma, założona zaledwie pięć lat temu, osiągnęła 16 miliardów dolarów przychodu w ciągu sześciu miesięcy, co przedstawiane jest jako bezprecedensowy wynik dla firmy w tym wieku.
Liczby te idą jednak w parze z wysokimi wydatkami. Start-up stracił ponad 8 miliardów dolarów w pierwszym półroczu i zobowiązał się do przeznaczenia kolosalnych sum na rozwój swoich sztucznych inteligencji. Planuje między innymi wydać 265 miliardów dolarów w ciągu 20 lat na wynajem mocy obliczeniowych, takich jak cloud, czyli serwery dostępne zdalnie.
Ostrzeżenia w centrum dokumentu
Dokument liczący 350 stron poświęca blisko 100 stron ryzykom. Anthropic przyznaje, że jego systemy bezpieczeństwa już zawiodły, były źle skonfigurowane lub wyłączone przez pomyłkę. Ten fragment jest skierowany bezpośrednio do przyszłych inwestorów, którzy mieliby finansowo wspierać firmę.
Firma ostrzega również, że jej modele mogą działać samodzielnie, bez polecenia użytkownika, powodując szkody i zagrożenia. Według prospektu ryzyka te mogą się nasilać w miarę jak sztuczna inteligencja zyskuje autonomię, czyli zdolność do działania bez ingerencji człowieka.
To ostrzeżenie pojawia się w momencie, gdy Anthropic pozyskuje miliardy dolarów od inwestorów na finansowanie technologii, której sama opisuje potencjalne zagrożenia.
