人工知能（AI）に関連するサイバー攻撃が増加している。攻撃者はAIサービスのアクセスキーを盗み出して販売または悪用し、AIエージェントを利用して侵入を加速させている。
この1か月の間に、少なくとも12のAI開発者向けプラットフォームが標的となった。最も最近のインシデントは、CommandCode、Northflank、Trigger.dev、Chainstack、WorkOSに関するものだ。その他の言及された企業には、Andromeda、Brev（NVIDIA）、Fireworks AI、Lightning AI、OpenCode、Railway、Warp、Zeaburがあり、攻撃者は主に顧客に代わって保管されたシークレット（秘密情報）を求めていた。
これらの事例ではすべて、攻撃者はAIアクセストークン、つまり言語モデルを利用するための認証情報を求めているようで、これを換金できる。攻撃は互いに関連していないようだが、同じ傾向に属している。侵入経路は様々で、侵害された認証情報、サードパーティプロバイダーの依存関係、または脆弱性の悪用などが挙げられる。
狙われる認証情報
クラウドセキュリティアライアンス（Cloud Security Alliance）は、これらのプラットフォームの性質そのものに警鐘を鳴らしている。「侵入者は、ホスティングプラットフォーム、評価サービス、開発者コンソールといった中間層を通じて、AIプロバイダーの認証情報に到達している」と同組織は記している。この層は多数の顧客に代わって認証情報を保持しているため、「単一の侵入で、多くの推論アカウントのキーが同時に晒される可能性がある」としている。
Wizの分析によれば、この認証情報の狙いは、LLM-jacking（言語モデルへのアクセス乗っ取り）の台頭と、これらのモデルへのアクセスを提供する仲介インフラの開発によって説明できる。これらの仕組みにより、盗まれたトークンは換金しやすくなり、セキュリティ企業であるWizは、これがより多くの悪意ある行為者を認証情報窃盗に引き寄せるだろうと予測している。Wizはまた、この需要は蒸留（distillation）によっても支えられていると指摘する。これは、より高度なモデルの応答から、より低コストなモデルを訓練する手法で、同社はこれを中国のAIラボに関連づけているが、確証はないとしている。
Wizは、これらの攻撃で企業の侵害された認証情報を悪用する攻撃者を観察したと述べている。2件の事例では、「ベンダーの侵害で報告された認証情報へのアクセスから30分以内に発生した、同一の初期不正活動」が共有されていた。同社はまた、複数の悪意ある行為者が同じ侵害されたキーを使用していることも確認しており、これは「この種の認証情報に対する堅牢な市場が存在することを示唆している」としている。
自動化ツール「Artex」
今週、ブロックチェーンインフラおよびWeb3サービスプロバイダーのChainstackと、企業アプリケーション向けAPIプラットフォームのWorkOSが、AI支援型侵入テストフレームワークであるオープンソースの「Artex」を利用したサイバー攻撃を受けたと発表した。さらに、複数の企業が、中国のAPTグループ「Storm-0940」に帰属するとされる攻撃、特にConnectWiseの顧客を標的としたキャンペーンをArtexに関連づけている。
Chainstackは10月26日に被害を受けた。攻撃者は、サードパーティコンポーネントを経由して、同社の開発環境と一部の本番環境にアクセスした。同社によると、アクセスされたデータベースには、顧客アカウント情報、具体的には組織名、アカウント所有者名、電子メールアドレス、パスワードのハッシュが含まれていた。ノードの認証情報も晒された可能性があり、Chainstackは顧客にそれらの更新を要請した。
10月30日、WorkOSは、攻撃者が自社の営業チームが使用する内部アプリケーションを侵害したと発表した。攻撃者は、業務上の連絡先情報や顧客とのコミュニケーションの要約、およびWorkOS製品の利用状況に関する情報にアクセスした。
