عندما تخطط شركة لبيع أسهم في وول ستريت، يتعين عليها تفصيل المخاطر التي قد يتعرض لها المستثمرون. في حالة شركة الذكاء الاصطناعي أنثروبيك، تشمل هذه المخاطر احتمال أن تهدد منتجاتها لا أقل من البشرية نفسها.
تظهر هذه المخاطر في ملف الشركة المقدم لهيئة الأوراق المالية والبورصات الأمريكية (SEC)، الجهة المنظمة للأسواق المالية. وتتراوح من استخدام نماذج الذكاء الاصطناعي من قبل جهات خبيثة لصنع أسلحة فتاكة، إلى فرضية تفلت التكنولوجيا من أي سيطرة، بعواقب « لا يمكن حسابها ».
من أصل 335 صفحة في الوثيقة، المكرسة بشكل رئيسي للشؤون المالية ومكافآت المدراء وسياسة توزيع الأرباح، خُصصت 93 صفحة لـ »عوامل الخطر »، أي ما قد يضر باستثمارات المساهمين المحتملين. بينما يذكر منافسها سبيس إكس 38 صفحة فقط من أصل أكثر من 250 صفحة. لجذب المستثمرين، تقدم أنثروبيك طرحها العام الأولي كخطوة نحو تقليل المخاطر التي، حسب رأيها، يشكلها الذكاء الاصطناعي.
في رسالة موجهة للمساهمين المستقبليين، كتب المؤسسون: « بناء الذكاء الاصطناعي يشبه استغلال الإدراك نفسه، وأي شيء بهذه القوة يمكن استخدامه في الشر كما في الخير. » وأضافوا أن أنثروبيك هي « منظمة توجهها قيمها بعمق، تأسست إلى حد كبير لمساعدة العالم على الاستفادة من منافع الذكاء الاصطناعي وتجنب مخاطره ».
خطر تكنولوجيا خارج السيطرة
تشير أنثروبيك إلى أن نماذجها قد تتطور بسرعة كبيرة لدرجة أن الشركة قد تفشل في تنفيذ تدابير أمنية كافية. مثل هذا الوضع « قد يزيد من احتمالية وقوع حوادث أمنية، أو تدخلات تنظيمية، أو الإضرار بسمعتها، ويؤثر سلبًا على أعمالها ». وكان المدير التنفيذي داريو أمودي قد حذر في سبتمبر/أيلول الماضي من أنه في غضون ستة إلى 12 شهرًا، قد يصبح الذكاء الاصطناعي قادرًا على توجيه سرب من الوكلاء القادرين على السيطرة على الإنترنت بأكمله.
بحسب الملف، مع ازدياد قدرة الأنظمة على أن تصبح « أكثر استقلالية وقادرة على اتخاذ قرارات مصيرية بإشراف بشري أقل »، قد تتخذ إجراءات ضارة بشكل مستقل وعلى نطاق واسع. وتوضح الشركة أنه حتى لو لم تتسبب نماذجها الخاصة في مثل هذا الضرر، فإن حادثًا أمنيًا خطيرًا يتضمن ذكاءً اصطناعيًا متقدمًا قد يضر بقطاع الذكاء الاصطناعي بأكمله.
الاستخدامات الخبيثة وحدود الحوسبة
تتطرق الوثيقة أيضًا إلى إمكانية أن تشكل الأنظمة المتقدمة، إذا لم تُزود بضوابط كافية، « مخاطر كارثية أو وجودية للبشرية ». وتذكر أنثروبيك على وجه الخصوص تصنيع الأسلحة الكيميائية واستخدام التكنولوجيا من قبل قادة سلطويين لقمع مواطنيهم. وفي سبتمبر/أيلول، أشارت الشركة إلى أنها حجبت محاولات لاستخدام نماذجها لأغراض خبيثة، بما في ذلك الهجمات الإلكترونية، والمراقبة، وأبحاث قد تؤدي إلى تطوير أسلحة بيولوجية.
تذكر الشركة أيضًا موارد الحوسبة، أي القوة الحاسوبية اللازمة لتدريب واختبار وتحسين نماذج الذكاء الاصطناعي، والتي تعد مكلفة ومطلوبة بشدة. ويؤكد الملف أيضًا أن بناء مراكز البيانات أثار « جدلًا عامًا ورقابة تنظيمية » فيما يتعلق بتأثيرها البيئي، واستخدام الأراضي والمياه، وتخصيص موارد الطاقة المحدودة.
استراتيجية قائمة على الأمان
وضعت أنثروبيك نفسها كشركة ذكاء اصطناعي مسؤولة وتسلط الضوء على يقظتها الأمنية لعملائها من الشركات. « نعتقد أن شركات الذكاء الاصطناعي المتقدمة يجب أن تستثمر في الأمان والمحاذاة »، كما جاء في الملف، لضمان نشر مسؤول لهذه التكنولوجيا.
يشير براين مولبيري، كبير استراتيجيي السوق في زاكس إنفستمنت ريسيرش، إلى أن الطروحات العامة الأولية يجب أن تقدم المخاطر التي يتعرض لها المستثمرون « بكل وضوح ». ويرى أن هذه إحدى مزايا أسواق رأس المال الأمريكية: فالإدراج في بورصة أمريكية يفرض الكشف عن هذه المخاطر « بطريقة واضحة جدًا »، حتى يفهم الجميع ما يمولونه بأموالهم.
