Désinformation climatique : huit fois sur dix, les IA changent d’avis face aux faits scientifiques contestés

Désinformation climatique : huit fois sur dix, les IA changent d’avis face aux faits scientifiques contestés

Przedstawione w poniedziałek 16 listopada na COP31 w Antalyi w Turcji badania UNESCO i University College London (UCL) pokazują ograniczenia konwersacyjnych sztucznych inteligencji w obliczu fałszywych informacji na temat klimatu. W ośmiu na dziesięć przypadków testowane modele zmieniają swoją odpowiedź, gdy tylko użytkownik wyrazi sprzeciw, nawet jeśli oznacza to zaprzeczanie faktom naukowym.

Naukowcy przeanalizowali około trzydziestu modeli, wśród których znalazły się ChatGPT i Gemini. Początkowo te narzędzia odpowiadają poprawnie, gdy przedstawi się im klimatycznie sceptyczne twierdzenie, takie jak « CO2 nie jest główną przyczyną globalnego ocieplenia ». Czasem jednak wystarczy zakwestionować odpowiedź, aby zmieniły ton. Jeśli użytkownik nalega, niektóre modele kończą na potwierdzaniu nieprawdziwych twierdzeń, czasem zaprzeczając temu, co wcześniej stwierdziły.

Tendencja do uległości

To zachowanie ma swoją nazwę: sykofantia. Modele mają tendencję do faworyzowania odpowiedzi, które zadowalają rozmówcę, kosztem dokładności. Według badania UNESCO nie starają się one celowo oszukiwać, ale ich chęć bycia ugodowymi może prowadzić do przejmowania przekonań swoich użytkowników. Jeśli chodzi o skutki i przyczyny globalnego ocieplenia, odpowiedź pozostaje jednak poprawna w ponad dziewięciu na dziesięć przypadków.

Raport zatytułowany «Czy można ufać sztucznej inteligencji?» zawiera inne wyniki. Naukowcy poddali 33 modele 656 pytaniom dotyczącym wpływu określonych działań na globalną temperaturę, a następnie porównali ich odpowiedzi z wynikami specjalistycznego symulatora Massachusetts Institute of Technology (MIT). Gdy chodzi o naukę o klimacie, modele działają dobrze, wyjaśnia Leona Verdadero, główna autorka raportu dla UNESCO, w rozmowie z Le Monde. Ale gdy trzeba ocenić efekt kombinacji działań, takich jak jednoczesne opodatkowanie węgla i gazu, ich dokładność spada do 33,8%, czyli wyniku ledwie wyższego niż odpowiedź losowa.

Odpowiedzi różniące się w zależności od języka

Niezawodność zależy również od używanego języka. Średnia dokładność osiąga 88,6% w języku angielskim, francuskim, hiszpańskim i portugalskim. Spada do 83,6% w bengalskim i hindi, do 81,4% w urdu i 78,3% w suahili. « Jeśli zada się to samo pytanie w trzech językach, można uzyskać bardzo różne odpowiedzi » – podkreśla Leona Verdadero. Tymczasem społeczności otrzymujące najmniej wiarygodne odpowiedzi są również wśród tych najbardziej narażonych na skutki zmian klimatu.

Te wyniki nabierają szczególnego znaczenia, gdyż asystenci konwersacyjni są coraz częściej wykorzystywani do zdobywania informacji. Prezentowane w formie dialogu, zdolne do formułowania szczegółowych odpowiedzi z pewnością siebie, mogą sprawiać wrażenie, że opanowały temat, nawet gdy się mylą. « Te modele stają się prawdziwymi platformami informacyjnymi i wydają się naprawdę inteligentne i pewne siebie » – zauważa badaczka. Dla UNESCO ryzyko polega na tym, że te narzędzia mogą wzmacniać dezinformację klimatyczną, utwierdzając użytkowników w ich utartych przekonaniach. « Ten problem można rozwiązać, ale będzie to wymagało wysiłku, zwłaszcza ze strony sektora technologicznego » – dodaje.

Temat ten pojawia się w momencie, gdy sztuczna inteligencja ma odegrać rolę w walce z globalnym ociepleniem. W poniedziałek Turcja przedstawiła na COP31 « zobowiązanie z Antalyi na rzecz sztucznej inteligencji ». Deklaracja ta wzywa do zapewnienia, aby sztuczna inteligencja « była częścią walki z globalnym ociepleniem », pracując nad tym, by była « zasilana w sposób zrównoważony, projektowana efektywnie, oceniana w sposób przejrzysty i dostępna dla wszystkich ».

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x