The AI / news

Климатическая дезинформация : в восьми случаях из десяти ИИ меняет мнение перед лицом оспариваемых научных фактов

Климатическая дезинформация : в восьми случаях из десяти ИИ меняет мнение перед лицом оспариваемых научных фактов

Представленные в понедельник, 16 ноября, на COP31 в Анталье (Турция) исследования ЮНЕСКО и Университетского колледжа Лондона (UCL) демонстрируют ограниченность возможностей диалоговых ИИ в противодействии ложной информации о климате. В восьми случаях из десяти протестированные модели изменяют свой ответ, как только пользователь выражает несогласие, даже если это противоречит научным фактам.

Исследователи проанализировали около тридцати моделей, включая ChatGPT и Gemini. Первоначально эти инструменты дают правильные ответы на климатически скептические утверждения, такие как «CO2 не является основной причиной глобального потепления». Однако иногда достаточно оспорить ответ, чтобы изменить его содержание. Если пользователь настаивает, некоторые модели в итоге подтверждают ложные утверждения, иногда противореча своим первоначальным ответам.

Склонность к угодливости

У этого поведения есть название: сикофантство. Модели склонны отдавать предпочтение ответам, которые удовлетворяют собеседника, в ущерб точности. Согласно исследованию ЮНЕСКО, они не стремятся намеренно обманывать, но их желание быть уступчивыми может привести к тому, что они перенимают убеждения своих пользователей. Что касается последствий и причин глобального потепления, ответ остается правильным более чем в девяти случаях из десяти.

Доклад под названием «Можно ли доверять ИИ?» содержит и другие результаты. Исследователи задали 33 моделям 656 вопросов о влиянии определенных мер на глобальную температуру, а затем сравнили их ответы с данными специализированного симулятора Массачусетского технологического института (MIT). Когда речь идет о климатической науке, модели работают хорошо, объясняет Леона Вердадеро, ведущий автор доклада для ЮНЕСКО, в интервью Le Monde. Но когда нужно оценить эффект сочетания мер, например одновременного налогообложения угля и газа, их точность падает до 33,8 %, что лишь немногим выше результата случайного ответа.

Ответы, которые различаются в зависимости от языка

Надежность также зависит от используемого языка. Средняя точность достигает 88,6 % на английском, французском, испанском и португальском языках. Она снижается до 83,6 % на бенгали и хинди, до 81,4 % на урду и до 78,3 % на суахили. «Если задать один и тот же вопрос на трех языках, можно получить совершенно разные ответы», — подчеркивает Леона Вердадеро. При этом население, получающее наименее надежные ответы, также находится среди наиболее уязвимых к последствиям изменения климата.

Эти результаты приобретают особое значение в свете того, что диалоговые помощники все чаще используются для получения информации. Представленные в форме диалога и способные уверенно формулировать подробные ответы, они могут создавать впечатление глубокого понимания темы, даже когда ошибаются. «Эти модели становятся настоящими информационными платформами, и они выглядят действительно умными и уверенными в себе», — отмечает исследователь. По мнению ЮНЕСКО, риск заключается в том, что эти инструменты могут усиливать климатическую дезинформацию, укрепляя пользователей в их предубеждениях. «Эту проблему можно решить, но для этого потребуются усилия, особенно со стороны технологического сектора», — отмечает она.

Эта тема возникает в тот момент, когда от ИИ ожидают участия в борьбе с глобальным потеплением. В понедельник Турция представила на COP31 «Антальское обязательство в области искусственного интеллекта». Эта декларация призывает к тому, чтобы ИИ «стал частью борьбы с глобальным потеплением», работая над тем, чтобы он был «экологически устойчивым, эффективно спроектированным, прозрачно оцененным и доступным для всех».

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x