Кибератаки, связанные с искусственным интеллектом, множатся. Злоумышленники похищают ключи доступа к сервисам ИИ для их перепродажи или эксплуатации и используют ИИ-агентов для ускорения проникновения.
В течение одного месяца были атакованы как минимум дюжина платформ, предназначенных для разработчиков ИИ. Самые последние инциденты касаются CommandCode, Northflank, Trigger.dev, Chainstack и WorkOS. Среди других упомянутых компаний — Andromeda, Brev (NVIDIA), Fireworks AI, Lightning AI, OpenCode, Railway, Warp и Zeabur, где злоумышленники в основном искали секреты, хранящиеся от имени их клиентов.
Во всех этих случаях злоумышленники, по-видимому, ищут токены доступа к ИИ, то есть учетные данные, позволяющие использовать языковые модели, которые можно монетизировать. Атаки, похоже, не связаны между собой, хотя и относятся к одной тенденции. Точка входа варьируется: скомпрометированные учетные данные, зависимости от сторонних поставщиков или эксплуатация уязвимостей.
Востребованные учетные данные
Cloud Security Alliance предупреждает о самой природе этих платформ. «Злоумышленники получают доступ к учетным данным поставщиков ИИ через промежуточный слой платформ хостинга, сервисов оценки и консолей для разработчиков», — пишет организация. Поскольку этот слой хранит учетные данные от имени многих клиентов, «одно проникновение может одновременно раскрыть ключи множества учетных записей для вывода (inference)».
Согласно анализу Wiz, этот поиск учетных данных объясняется ростом LLM-jacking, то есть перехвата доступа к языковым моделям, и развитием инфраструктур посредников, предоставляющих доступ к этим моделям. Эти механизмы делают украденные токены легкими для монетизации, что, по мнению компании по кибербезопасности, должно привлечь больше злоумышленников к краже учетных данных. Wiz также отмечает, что этот спрос подпитывается дистилляцией, которая заключается в обучении более дешевой модели на основе ответов более продвинутой модели, — практикой, которую компания связывает с китайскими лабораториями ИИ, хотя это и не доказано.
Wiz сообщает, что наблюдала, как злоумышленники используют скомпрометированные корпоративные учетные данные в этих атаках. Два случая имели «одинаковую первоначальную несанкционированную активность, произошедшую в течение 30 минут после получения доступа к учетным данным, о которых сообщалось в утечке у поставщика». Компания также обнаружила, что несколько злоумышленников использовали одни и те же скомпрометированные ключи, что, по ее мнению, «указывает на устойчивый рынок для такого типа учетных данных».
Artex — инструмент автоматизации
На этой неделе Chainstack, поставщик инфраструктуры блокчейна и сервисов Web3, и WorkOS, платформа API для корпоративных приложений, объявили о кибератаках с использованием Artex, фреймворка с открытым исходным кодом для тестирования на проникновение с помощью ИИ. Несколько компаний также связали с Artex атаки, приписываемые китайской APT-группе Storm-0940, включая кампанию против клиентов ConnectWise.
Chainstack подвергся атаке 26 октября. Злоумышленники получили доступ к среде разработки и части производственной среды компании через сторонний компонент. По данным компании, в просмотренной базе данных содержалась информация об учетных записях клиентов, включая названия организаций, имена владельцев учетных записей, адреса электронной почты и хэши паролей. Ключи доступа к узлам также могли быть раскрыты, и Chainstack попросил своих клиентов обновить их.
30 октября WorkOS сообщила, что злоумышленники скомпрометировали внутреннее приложение, используемое ее коммерческой командой. Они получили доступ к профессиональным контактным данным и сводкам переговоров с клиентами, а также к информации об использовании продуктов WorkOS.
