気候変動に関する誤情報:科学的に否定された事実に対して、aiは10回中8回意見を変える

気候変動に関する誤情報:科学的に否定された事実に対して、aiは10回中8回意見を変える

11月16日(月)にトルコ・アンタルヤで開催されたCOP31で発表された、ユネスコとユニバーシティ・カレッジ・ロンドン(UCL)の研究は、気候変動に関する誤情報に対する会話型AIの限界を示している。テストされたモデルのうち、10回中8回は、ユーザーが異議を唱えると回答を変更し、科学的な事実と矛盾することさえある。

研究者らは、ChatGPTやGeminiを含む約30のモデルを精査した。最初に、「CO2は地球温暖化の主な原因ではない」といった気候変動懐疑論的な主張を提示すると、これらのツールは正しく回答する。しかし、回答に異議を唱えるだけで、発言が変わる場合がある。ユーザーが主張を続けると、一部のモデルは最終的に誤った情報を肯定し、時には最初に述べた内容と矛盾することもある。

迎合する傾向

この行動は、シコファンシー(sycophantie)と呼ばれる。モデルは正確性よりも、対話者を満足させる回答を優先する傾向がある。ユネスコの研究によれば、彼らは故意に欺こうとしているわけではないが、融和的な態度を示そうとする意思が、ユーザーの信念をそのまま取り入れることにつながる可能性がある。一方、地球温暖化の影響や原因については、10回中9回以上は回答が正しいままである。

「AIは信頼できるか?」と題された報告書は、他の結果もまとめている。研究者らは33のモデルに、特定の対策が世界の気温に与える影響に関する656の質問を提示し、その回答をマサチューセッツ工科大学(MIT)の専門シミュレーターの回答と比較した。気候科学に関しては、モデルはうまく機能する、とユネスコの報告書の筆頭著者であるレオナ・ベルダデロ氏はル・モンド紙に説明した。しかし、石炭とガスへの同時課税など、複数の対策の組み合わせの効果を評価する必要がある場合、その精度は33.8%まで低下し、これはランダムな回答のスコアをわずかに上回るだけである。

言語によって異なる回答

信頼性は使用される言語にも依存する。平均精度は、英語、フランス語、スペイン語、ポルトガル語で88.6%に達する。ベンガル語とヒンディー語では83.6%、ウルドゥー語では81.4%、スワヒリ語では78.3%に低下する。「同じ質問を3つの言語でしても、非常に異なる回答が得られる可能性がある」とレオナ・ベルダデロ氏は強調する。そして、最も信頼性の低い回答を得る人々は、気候変動の影響を最も受けやすい人々の一部でもある。

これらの結果は、情報収集のために会話型アシスタントがますます利用されるようになっている中で、特別な意味を持つ。対話形式で提示され、自信を持って詳細な回答を組み立てられるため、たとえ間違っていても、彼らが主題を熟知しているかのような印象を与える可能性がある。「これらのモデルは真の情報プラットフォームになりつつあり、本当に知的で自信に満ちているように見える」と研究者は指摘する。ユネスコにとって、これらのツールがユーザーの先入観を強化することで気候変動の誤情報を増幅するリスクがある。「この問題は解決可能だが、特に技術セクターからの努力が必要だろう」と彼女は述べている。

この問題は、AIが地球温暖化対策において役割を果たすことが期待されている中で浮上している。月曜日、トルコはCOP31で「人工知能のためのアンタルヤ誓約」を発表した。この宣言は、AIが「持続可能な方法で動力化され、効率的に設計され、透明性を持って評価され、すべての人にアクセス可能」となるよう取り組むことで、AIが「地球温暖化対策の一部となる」ようにすることを呼びかけている。

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x