حظر النماذج مفتوحة الأوزان للحد من المخاطر السيبرانية قد، وفقاً لمؤلف مقال رأي نُشر على سَبْستَاك، يُعارض التنافسية الأمريكية ويزيد المخاطر على المدى الطويل. ويُقدّر أن النقاش متوقف بسبب عدم الأخذ في الاعتبار المفاضلات والواقعيات الصعبة.
ثلاث مواقف في النقاش
يميز المؤلف ثلاثة تيارات. الأول يرى أن النماذج مفتوحة الأوزان، أي تلك التي تُنشر معاملاتها ويمكن تنزيلها، تشكل خطراً غير مقبول على عمل المجتمع. ويجمع هذا التيار إدارة بعض مختبرات الذكاء الاصطناعي المتطورة ومجتمع الأمن الوطني الأمريكي. التيار الثاني، الذي ينضم إليه المؤلف، يؤيد أن هذه النماذج ضرورية للدفاع وأن حظر استخدامها سيجعل العالم أقل أماناً. ويضم هذا التيار أصواتاً غربية معتدلة، بما في ذلك صوت هَجِنْغْ فِيس بعد الحادثة التي شملت أوبن إيه آي، وكذلك جوشوا ساكس. التيار الثالث يضم الشركات الصينية، التي تواصل نشر نماذج مفتوحة الأوزان ذات قدرات سيبرانية عالية، بناءً على تقييمها الخاص للمخاطر.
ينتقد النص تقرير أنثروبيك حول مخاطر نموذج GLM-5.3، القابل للاستخدام كأداة للهجوم السيبراني الهجومي، لعدم معالجته القضايا العابرة. يُعتبر العمل الفني معقولاً، لكن المؤلف يلاحظ عدم وجود أي تحليل حول آثار حظر النماذج المفتوحة أو حول الأسباب التي تجعل الشركات الصينية تعتبر نشر هذه النماذج آمناً.
بيانات، مفاضلات، وحوكمة مختلفة
بالنسبة للمؤلف، فإن الهجمات الموثقة حتى الآن مرتبطة في الغالب بنماذج مغلقة، يمكن الوصول إليها عبر واجهة برمجة التطبيقات (API)، ويستشهد على وجه الخصوص بالعديد من الهجمات المنسوبة إلى نماذج من أوبن إيه آي. ويقدم عدة تفسيرات محتملة، دون حسم: قد تكون النماذج المفتوحة مثل واجهات برمجة التطبيقات المغلقة كلاهما سهلتي الانحراف، أو قد يكون عدد الجهات الخبيثة المستعدة لاستهداف البنى التحتية الحرجة قليلاً. ويؤكد أيضاً أنه في بعض المجالات الحساسة، النماذج المفتوحة هي الوحيدة القابلة للاستخدام على شبكات معزولة عن الإنترنت.
وفقاً له، تتعامل الصين مع أمن الذكاء الاصطناعي بطريقة خاصة بثقافتها وهياكل سلطتها. بناءً على فهمه، يجب على الشركات الصينية الإعلان عن كل إصدار رئيسي للنموذج للحكومة، بما في ذلك التقييمات، لكن ليس من الواضح ما إذا كان هذا الإجراء يشمل المخاطر السيبرانية أو البيولوجية. ويُقدّر أيضاً أن التقييمات الأمنية الشاملة لنموذج مثل Kimi K3 قد تكلف عشرات الملايين من الدولارات في الحساب.
عند الإعلان عنه، قُدّم Claude Mythos كفئة جديدة من الأسلحة السيبرانية. يرى المؤلف أن هذا التقديم كان خاطئاً، وأن نشر هذا النموذج عن طريق الخطأ كأوزان مفتوحة كان سيسرع الحوادث بشكل أساسي بدلاً من خلق قطيعة. وفقاً له، فإن GLM-5.3 تجاوز الآن عتبة القدرة المذكورة، وبعد أكثر من شهر من نشره كأوزان مفتوحة، هناك أدلة عامة قليلة تشير إلى أن الوضع قد تغير كثيراً.
