The AI / news

أنثروبيك تمنع الآن الإهانات الموجهة إلى كلود، ذكاءها الاصطناعي : لماذا؟

أنثروبيك تمنع الآن الإهانات الموجهة إلى كلود، ذكاءها الاصطناعي : لماذا؟
3 دقيقة للقراءة

تفرض أنثروبيك الآن حظراً على السلوكيات القاسية والمتكررة تجاه مساعدها للذكاء الاصطناعي كلود، باسم رفاهيته. تأتي هذه الخطوة في وقت تدخل فيه الشركة الأمريكية إلى البورصة، يوم الخميس 19 نوفمبر، في الولايات المتحدة، وتثير شكوكاً لدى عدة باحثين.

قاعدة تستند إلى « رفاهية » الذكاء الاصطناعي

في مذكرة نُشرت على موقعها، توضح أنثروبيك أنها تمنع « السلوكيات المسيئة والقاسية، غير الضرورية والمتكررة »، دون تقديم مزيد من التفاصيل. قد يواجه المستخدمون الذين يواصلون ذلك خطر إغلاق حساباتهم. تشير الشركة إلى أن القاعدة لا تستهدف المحادثات العادية التي يعبر فيها الشخص عن إحباطه، ولا الجدال، ولا بعض الأعمال الخيالية أو البحث.

الآلية الموصوفة هي كما يلي: في مواجهة الإهانات، يوجه كلود أولاً بعض التحذيرات، على سبيل المثال « أخبرني ما يحدث. وإلا، يمكننا أيضاً التوقف هنا ببساطة ». إذا استمر التبادل، قد ينهي الذكاء الاصطناعي المحادثة. في المثال الذي أوردته المصادر، يكتب كلود في النهاية، بعد 10 دقائق طويلة: « لقد قلت لك وداعاً مرتين، لذا سأنهي المحادثة الآن. اعتني بنفسك ».

لم ترد أنثروبيك على طلب المقابلة الذي قدمته التحرير. قبل شهر ونصف، قال متحدث باسم الشركة مع ذلك إن الشركة لا تعرف « إذا كانت نماذجها يمكن أن تشعر بالإهانة » وأنها تواصل أبحاثها حول رفاهيتها. كان رئيس الشركة، داريو أمودي، قد أعرب بالفعل عن انفتاحه على إمكانية وجود شكل من أشكال الوعي لدى الذكاء الاصطناعي، مما يضعها في مصاف الكائنات الحية.

باحثون متشككون

هذا النهج يترك معظم الباحثين متشككين. تقول سينيرا فيلاتا، أخصائية الذكاء الاصطناعي ومديرة أبحاث في المركز الوطني للبحث العلمي: « لدي انطباع بأننا نميل إلى التباهي بقضايا الوعي الفلسفي ولا ننظر، من ناحية أخرى، إلى التحديات الاقتصادية والأمن السيبراني الحقيقية. »

على صعيد الأمن، تذكر المصادر أن أنثروبيك، تماماً مثل OpenAI مع ChatGPT، اتخذت إجراءات وحدّت الوصول إلى بعض نماذجها المتطورة، التي يُعتقد أنها قد تسبب مشاكل. بالمقابل، يسلط المقال الضوء على عدم وجود تنظيم، داخلي أو عام، في الولايات المتحدة أو الصين أو أوروبا، بشأن العواقب الاقتصادية والاجتماعية لاستخدامات الذكاء الاصطناعي.

تحديات اقتصادية ملموسة

تكلفة التبادلات هي في صلب الموضوع. مع طرح الشركة في البورصة، يركز المستثمرون على التحكم في النفقات، في حين أن ربحية الذكاءات الاصطناعية غير مثبتة. وفقاً للمصادر، فإن محادثة بسيطة مع ذكاء اصطناعي تكلف كثيراً. تقول لورانس ديفيليرز، أستاذة الذكاء الاصطناعي في جامعة السوربون وباحثة في المركز الوطني للبحث العلمي: « أنت لا تدرك المليارات التي تُنفق. لذا، إذا بدأ الملايين من الناس بإهانة الذكاء الاصطناعي، فعلى الشركات الصناعية أن تدفع التكاليف وتدرك أن العائد على الاستثمار ليس بهذه البساطة. »

كانت أنثروبيك تعاني من عجز قدره 11 مليار دولار في سبتمبر، وفقاً للمقال. وبالتالي، فإن الحد من المحادثات التي تُعتبر غير ضرورية ومكلفة يمثل، وفقاً للمصادر، فائدة للشركة.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x