Американский стартап Anthropic, создатель искусственного интеллекта Claude, готовится к первичному публичному размещению (IPO). Компания обнародовала проспект для выхода на Уолл-стрит, в котором предупреждает о рисках, связанных с её собственными моделями. Хотя несколько СМИ называют ноябрь, точная дата пока не известна.
Это IPO может побить все рекорды, включая рекорд SpaceX. Anthropic демонстрирует быстрый рост, но при этом несёт колоссальные убытки. Компания, созданная всего пять лет назад, за шесть месяцев получила выручку в 16 миллиардов долларов — результат, представленный как беспрецедентный для компании такого возраста.
Однако эти цифры сопровождаются огромными расходами. Стартап потерял более 8 миллиардов долларов в первом полугодии и взял на себя обязательства тратить колоссальные суммы на развитие своих систем ИИ. В частности, компания планирует потратить 265 миллиардов долларов за 20 лет на аренду вычислительных мощностей, таких как облачные сервисы, то есть удалённо доступные серверы.
Предупреждения в центре документа
Документ объёмом 350 страниц посвящает около 100 страниц описанию рисков. Anthropic признаёт, что её системы безопасности уже давали сбои, были неправильно настроены или случайно отключены. Этот раздел обращён напрямую к будущим инвесторам, которых призывают финансово поддержать компанию.
Компания также предупреждает, что её модели могут действовать самостоятельно, без запроса со стороны пользователя, и причинять ущерб и создавать опасности. Согласно документу, эти риски могут усугубляться по мере того, как искусственный интеллект становится более автономным, то есть способным действовать без вмешательства человека.
Это предупреждение звучит в тот момент, когда Anthropic запрашивает у инвесторов миллиарды долларов на финансирование технологии, потенциальные опасности которой она сама же и описывает.
