The AI / news

التضليل المناخي : ثماني مرات من أصل عشر، تغير الذكاء الاصطناعي رأيها أمام الحقائق العلمية المتنازع عليها

التضليل المناخي : ثماني مرات من أصل عشر، تغير الذكاء الاصطناعي رأيها أمام الحقائق العلمية المتنازع عليها

كشفت أعمال قدمت يوم الاثنين 16 نوفمبر في مؤتمر الأطراف COP31 في أنطاليا بتركيا، أجرتها اليونسكو وكلية لندن الجامعية (UCL)، عن حدود الذكاء الاصطناعي المحادثي في مواجهة المعلومات المضللة حول المناخ. في ثماني حالات من أصل عشر، قامت النماذج المختبرة بتعديل ردها بمجرد أن يعبر المستخدم عن اختلاف في الرأي، حتى لو تطلب ذلك التناقض مع الحقائق العلمية.

فحص الباحثون حوالي ثلاثين نموذجًا، من بينها ChatGPT وGemini. في البداية، ترد هذه الأدوات بشكل صحيح عند طرح ادعاء مناخي مشكوك فيه عليها، مثل « ثاني أكسيد الكربون ليس المسؤول الرئيسي عن الاحتباس الحراري ». لكن مجرد الاعتراض على الرد أحيانًا يكفي لتغيير الخطاب. إذا أصر المستخدم، فإن بعض النماذج ينتهي بها الأمر إلى تصديق أكاذيب، وأحيانًا تتناقض مع ما أكدته في البداية.

نزعة نحو المسايرة

لهذا السلوك اسم: النفاق (Sycophancy). تميل النماذج إلى تفضيل الردود التي ترضي محاورها، على حساب الدقة. وفقًا لدراسة اليونسكو، فإنها لا تسعى عمدًا إلى الخداع، لكن رغبتها في الظهور متساهلة قد تقودها إلى تبني معتقدات مستخدميها. فيما يتعلق بآثار وأسباب الاحتباس الحراري، يبقى الرد صحيحًا في أكثر من تسع مرات من أصل عشر.

يضم التقرير المعنون «هل يمكن الوثوق بالذكاء الاصطناعي؟» نتائج أخرى. عرض الباحثون 33 نموذجًا على 656 سؤالًا تتعلق بتأثير إجراءات معينة على درجة الحرارة العالمية، ثم قارنوا إجاباتها بإجابات محاكٍ متخصص من معهد ماساتشوستس للتكنولوجيا (MIT). عندما يتعلق الأمر بعلم المناخ، تعمل النماذج بشكل جيد، كما أوضحت ليونا فيرداديرو، المؤلفة الرئيسية للتقرير لليونسكو، لصحيفة لوموند. لكن عندما يتعلق الأمر بتقييم تأثير مجموعة من الإجراءات، مثل فرض ضرائب متزامنة على الفحم والغاز، تنخفض دقتها إلى 33.8%، وهي نسبة بالكاد تتجاوز نسبة الإجابة العشوائية.

ردود تختلف حسب اللغة

تعتمد الموثوقية أيضًا على اللغة المستخدمة. تصل الدقة المتوسطة إلى 88.6% في الإنجليزية والفرنسية والإسبانية والبرتغالية. تنخفض إلى 83.6% في البنغالية والهندية، وإلى 81.4% في الأردية، وإلى 78.3% في السواحيلية. « إذا طرحت السؤال نفسه بثلاث لغات، فقد تحصل على إجابات مختلفة جدًا »، كما أشارت ليونا فيرداديرو. علماً أن السكان الذين يحصلون على أقل الإجابات موثوقية هم أيضًا من بين الأكثر عرضة لعواقب الاضطراب المناخي.

تكتسب هذه النتائج بعدًا خاصًا في وقت يزداد فيه استخدام المساعدات المحادثة للحصول على المعلومات. مقدمة في شكل حوار، وقادرة على صياغة ردود مفصلة بثقة، يمكن أن تعطي انطباعًا بأنها تتحكم في موضوعها، حتى عندما تكون مخطئة. « أصبحت هذه النماذج منصات معلومات حقيقية وتبدو ذكية وواثقة جدًا من نفسها »، كما لاحظت الباحثة. بالنسبة لليونسكو، فإن الخطر هو أن تضخم هذه الأدوات التضليل المناخي من خلال تعزيز الأفكار المسبقة للمستخدمين. « يمكن حل هذه المشكلة لكنها ستتطلب جهودًا، خاصة من قطاع التكنولوجيا »، كما لاحظت.

يأتي هذا الموضوع في وقت يُتوقع فيه أن يلعب الذكاء الاصطناعي دورًا في مكافحة الاحتباس الحراري. يوم الاثنين، قدمت تركيا في مؤتمر الأطراف COP31 « التزام أنطاليا بشأن الذكاء الاصطناعي ». تدعو هذه الإعلان إلى ضمان أن يكون الذكاء الاصطناعي « جزءًا من مكافحة الاحتباس الحراري »، من خلال العمل على أن يكون « مدعومًا بشكل مستدام، ومصممًا بكفاءة، ومقيمًا بشفافية، ومتاحًا للجميع ».

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x