تتزايد الهجمات الإلكترونية المرتبطة بالذكاء الاصطناعي. يقوم قراصنة بسرقة مفاتيح الوصول إلى خدمات الذكاء الاصطناعي لبيعها أو استغلالها، ويستخدمون وكلاء ذكاء اصطناعي لتسريع عمليات التسلل.
في غضون شهر واحد، استُهدفت ما لا يقل عن اثنتي عشرة منصة مخصصة لمطوري الذكاء الاصطناعي. تشمل الحوادث الأحدث CommandCode وNorthflank وTrigger.dev وChainstack وWorkOS. ومن بين الشركات الأخرى المذكورة Andromeda وBrev (NVIDIA) وFireworks AI وLightning AI وOpenCode وRailway وWarp وZeabur، حيث كان المهاجمون يبحثون بشكل رئيسي عن أسرار مخزنة نيابة عن عملائهم.
في جميع هذه الحالات، يبدو أن القراصنة يبحثون عن رموز الوصول إلى الذكاء الاصطناعي، أي بيانات الاعتماد التي تسمح باستخدام نماذج اللغة، والتي يمكنهم تحويلها إلى نقود. لا يبدو أن الهجمات مرتبطة ببعضها البعض، على الرغم من أنها تنتمي إلى نفس الاتجاه. تختلف نقطة الدخول: بيانات اعتماد مخترقة، أو تبعيات لمقدمي خدمات خارجيين، أو استغلال نقاط ضعف.
بيانات اعتماد مطلوبة
تحذر Cloud Security Alliance من الطبيعة الأساسية لهذه المنصات. «يصل المتسللون إلى بيانات اعتماد موفري الذكاء الاصطناعي عبر الطبقة الوسيطة لمنصات الاستضافة وخدمات التقييم وواجهات المطورين»، كما تكتب المنظمة. نظرًا لأن هذه الطبقة تحتفظ ببيانات الاعتماد نيابة عن العديد من العملاء، «فإن اختراقًا واحدًا يمكن أن يعرض مفاتيح العديد من حسابات الاستدلال في وقت واحد».
وفقًا لتحليل Wiz، فإن هذا البحث عن بيانات الاعتماد يُفسر بظاهرة اختطاف نماذج اللغة الكبيرة، أي الاستيلاء على الوصول إلى نماذج اللغة، وتطوير بنى تحتية وسيطة تمنح الوصول إلى هذه النماذج. تجعل هذه الآليات الرموز المسروقة سهلة التحويل إلى نقود، وهو ما ينبغي، وفقًا لشركة الأمن السيبراني، أن يجذب المزيد من الجهات الخبيثة نحو سرقة بيانات الاعتماد. تلاحظ Wiz أيضًا أن هذا الطلب يُغذى من خلال التقطير، الذي يتضمن تدريب نموذج أقل تكلفة بناءً على إجابات نموذج أكثر تقدمًا، وهي ممارسة تربطها الشركة بمختبرات الذكاء الاصطناعي الصينية، دون أن يكون ذلك مثبتًا.
تشير Wiz إلى أنها لاحظت قراصنة يستغلون بيانات اعتماد شركات تم اختراقها خلال هذه الهجمات. شاركت حالتان «نشاطًا أوليًا غير مصرح به متطابقًا، حدث في غضون 30 دقيقة من الوصول إلى بيانات الاعتماد المبلغ عنها في خرق المزود». كما لاحظت الشركة أن عدة جهات خبيثة كانت تستخدم نفس المفاتيح المخترقة، وهو ما «يشير إلى سوق قوي لهذا النوع من بيانات الاعتماد».
Artex، أداة أتمتة
هذا الأسبوع، أعلنت Chainstack، مزود بنى تحتية للبلوكشين وخدمات Web3، وWorkOS، منصة واجهات برمجة التطبيقات لتطبيقات المؤسسات، عن هجمات إلكترونية تعتمد على Artex، وهو إطار عمل مفتوح المصدر لاختبار الاختراق بمساعدة الذكاء الاصطناعي. كما ربطت عدة شركات بين Artex وهجمات نسبت إلى مجموعة التهديد المستمر الصينية Storm-0940، بما في ذلك حملة استهدفت عملاء ConnectWise.
تعرضت Chainstack للاختراق في 26 أكتوبر. تمكن المهاجمون من الوصول إلى بيئة تطوير وجزء من بيئة الإنتاج الخاصة بالشركة عبر مكون تابع لطرف ثالث. وفقًا للشركة، احتوت قاعدة البيانات التي تم الوصول إليها على معلومات حول حسابات العملاء، بما في ذلك أسماء المنظمات وأسماء أصحاب الحسابات وعناوين البريد الإلكتروني وبصمات كلمات المرور. ربما تم أيضًا الكشف عن بيانات اعتماد العقد، وطلبت Chainstack من عملائها تجديدها.
في 30 أكتوبر، تشير WorkOS إلى أن القراصنة اخترقوا تطبيقًا داخليًا تستخدمه فرقها التجارية. حصلوا على معلومات الاتصال المهنية وملخصات الاتصالات مع العملاء، بالإضافة إلى معلومات حول استخدام منتجات WorkOS.
