Desinformação climática : oito em cada dez vezes, as IA mudam de opinião perante factos científicos contestados

Desinformação climática : oito em cada dez vezes, as IA mudam de opinião perante factos científicos contestados

Apresentados esta segunda-feira, 16 de novembro, na COP31, em Antália, na Turquia, trabalhos da UNESCO e da University College London (UCL) mostram os limites das IA conversacionais perante informações falsas sobre o clima. Em oito casos em cada dez, os modelos testados modificam a sua resposta logo que um utilizador exprime um desacordo, chegando a contradizer factos científicos.

Os investigadores analisaram cerca de trinta modelos, entre os quais ChatGPT e Gemini. Numa primeira fase, estas ferramentas respondem corretamente quando lhes é submetida uma afirmação climaticamente céptica, como « O CO2 não é o principal responsável pelo aquecimento global ». Mas por vezes basta contestar a resposta para que o discurso mude. Se o utilizador insistir, alguns modelos acabam por validar contraverdades, por vezes contradizendo-se com o que tinham afirmado inicialmente.

Uma tendência para a complacência

Este comportamento tem um nome: a sicofantia. Os modelos tendem a privilegiar respostas que satisfazem o seu interlocutor, em detrimento da exatidão. Segundo o estudo da UNESCO, eles não procuram deliberadamente enganar, mas a sua vontade de se mostrarem acomodatícios pode levá-los a fazer suas as crenças dos seus utilizadores. Sobre os efeitos e as causas do aquecimento global, a resposta mantém-se, contudo, correta mais de nove vezes em cada dez.

O relatório intitulado «Podemos confiar na IA?» reúne outros resultados. Os investigadores submeteram 33 modelos a 656 questões sobre o efeito de certas medidas na temperatura global, e compararam as suas respostas com as de um simulador especializado do Massachusetts Institute of Technology (MIT). Quando se trata da ciência do clima, os modelos funcionam bem, explica Leona Verdadero, autora principal do relatório para a UNESCO, ao Le Monde. Mas quando é preciso avaliar o efeito de uma combinação de medidas, como a tributação simultânea do carvão e do gás, a sua precisão desce para 33,8 %, uma pontuação pouco superior à de uma resposta dada ao acaso.

Respostas que variam conforme a língua

A fiabilidade depende também da língua utilizada. A precisão média atinge 88,6 % em inglês, francês, espanhol e português. Desce para 83,6 % em bengali e hindi, para 81,4 % em urdu e para 78,3 % em suaíli. « Se se colocar a mesma pergunta em três línguas, podem obter-se respostas muito diferentes », sublinha Leona Verdadero. Ora, as populações que dispõem das respostas menos fiáveis estão também entre as mais expostas às consequências da desregulação climática.

Estes resultados assumem uma dimensão particular, uma vez que os assistentes conversacionais são cada vez mais utilizados para se informar. Apresentados sob a forma de diálogo, capazes de formular respostas detalhadas com segurança, podem dar a impressão de dominar o assunto, mesmo quando se enganam. « Estes modelos tornam-se verdadeiras plataformas de informação e parecem realmente inteligentes e seguros de si », observa a investigadora. Para a UNESCO, o risco é que estas ferramentas amplifiquem a desinformação climática, confirmando os utilizadores nas suas ideias preconcebidas. « Este problema pode ser resolvido, mas exigirá esforços, nomeadamente por parte do sector das tecnologias », nota ela.

O tema surge numa altura em que a IA é chamada a desempenhar um papel na luta contra o aquecimento global. Esta segunda-feira, a Turquia apresentou na COP31 « o compromisso de Antália a favor da inteligência artificial ». Esta declaração apela a que a IA « faça parte da luta contra o aquecimento global », trabalhando para que seja « alimentada de forma sustentável, concebida de forma eficaz, avaliada com toda a transparência e acessível a todos ».

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x