Алекс Стамос, директор по безопасности (CISO) компании Cognition и преподаватель Стэнфордского университета, считает, что кибербезопасность переживает особенно запутанный период, когда искусственный интеллект усиливает волны вторжений и атак. В интервью подкасту *Decoder* от The Verge он заявляет, что индустрия безопасности, какой мы её знаем, « по сути, отстаёт » перед лицом этих наступлений и вступает в то, что он называет « тёмными веками ».
Для иллюстрации этого тезиса Алекс Стамос приводит несколько недавних инцидентов. По его словам, компания Fireworks, поставщик ИИ-сервисов для нескольких предприятий, была взломана, и ключи API (идентификаторы, позволяющие программам общаться друг с другом) были похищены. Эти ключи позволили проникнуть в Cursor, где вредоносный плагин был распространён среди примерно 5 000 компаний, что привело к 5 000 потенциальных утечек. Он также называет взлом Binance « крупнейшей кражей в истории человечества ».
Он также описывает, как проводятся эти атаки. Он говорит о « kill chain », или цепочке атаки, то есть о наборе шагов, необходимых для достижения цели. Традиционно злоумышленники заранее готовили уязвимости и эксплойты, прежде чем человек их разворачивал. С ИИ, особенно с открытыми моделями (чей механизм работы доступен всем), эта цепочка может быть автоматизирована: по его мнению, система может обнаруживать уязвимости и писать эксплойты в реальном времени. Он упоминает китайский инструмент с открытым исходным кодом, доступный на GitHub, который в сочетании с моделью под названием « obliterated GLM-5.3 » позволил проникнуть в три южнокорейских банка, а затем, по его словам, ещё примерно в 200 компаний.
Мир, похожий на 1990-е годы
Алекс Стамос сравнивает ситуацию с концом 1990-х годов, когда Windows была, по его выражению, « полным провалом в плане безопасности ». Разница, уточняет он, в том, что сегодня весь мир работает в интернете, и атаки теперь могут быть автоматизированы в крупных масштабах. Он также упоминает действующих лиц: по его словам, атаки на ИИ-компании осуществляются так называемой « китайской кустарной индустрией доступа » — небольшими китайскими субподрядчиками, перепродающими свой доступ более крупным компаниям, в то время как кража биткойнов у Binance в основном связана с Северной Кореей и, по его мнению, очень изощрённой социальной инженерией.
Слишком высокие затраты на защиту
Экономический дисбаланс занимает центральное место в его рассуждениях. Он утверждает, что стоимость за токен для атакующих стремится к нулю, в то время как стоимость защиты остаётся высокой. Он цитирует коллегу, работающего в крупной платформе безопасности, который говорит, что одно расследование с использованием передовой кибермодели обходится в 900 долларов. Чтобы решить эту проблему, Cognition обучает собственные модели или переобучает открытые модели, чтобы снизить эти затраты.
Алекс Стамос также упоминает более радикальное решение: переписать ядро Linux на Rust, более безопасный в плане памяти язык. Он считает, что такой проект, осуществлённый Google или Amazon, обошёлся бы в 100 миллионов долларов, сумму, которую он считает скромной по сравнению с общественными затратами на последовательные исправления. Он добавляет, что количество выпускаемых каждый месяц патчей продолжает расти: по его словам, в последнем выпуске Patch Tuesday было « 900 с лишним » исправлений.
На вопрос о проверке контента он считает, что надёжнее доказывать подлинность изображения, чем обнаруживать контент, сгенерированный ИИ. Он напоминает, что Adobe уже предлагает криптографическую проверку для профессиональных фотографов, и что iPhone теперь включают аналогичную функцию.
