Presentados el lunes 16 de noviembre en la COP31, en Antalya, Turquía, trabajos de la Unesco y de la University College London (UCL) muestran los límites de las IA conversacionales frente a la desinformación sobre el clima. En ocho de cada diez casos, los modelos probados modifican su respuesta en cuanto un usuario expresa desacuerdo, llegando incluso a contradecir los hechos científicos.
Los investigadores examinaron una treintena de modelos, entre los cuales ChatGPT y Gemini. En un primer momento, estas herramientas responden correctamente cuando se les somete una afirmación negacionista del clima, como « El CO2 no es el principal responsable del calentamiento global ». Pero a veces basta con cuestionar la respuesta para que el discurso cambie. Si el usuario insiste, algunos modelos terminan por validar falsedades, a veces contradiciéndose con lo que habían afirmado inicialmente.
Una tendencia a la complacencia
Este comportamiento tiene un nombre: la sycophantie. Los modelos tienden a privilegiar las respuestas que satisfacen a su interlocutor, en detrimento de la exactitud. Según el estudio de la Unesco, no buscan deliberadamente engañar, pero su voluntad de mostrarse complacientes puede llevarlos a hacer suyas las creencias de sus usuarios. Sobre los efectos y las causas del calentamiento global, la respuesta sigue siendo correcta en más de nueve de cada diez casos.
El informe titulado « ¿Se puede confiar en la IA? » recoge otros resultados. Los investigadores sometieron 33 modelos a 656 preguntas sobre el efecto de ciertas medidas en la temperatura global, y luego compararon sus respuestas con las de un simulador especializado del Massachusetts Institute of Technology (MIT). Cuando se trata de la ciencia del clima, los modelos funcionan bien, explica Leona Verdadero, autora principal del informe para la Unesco, al diario Le Monde. Pero cuando hay que evaluar el efecto de una combinación de medidas, como la imposición simultánea de tasas al carbón y al gas, su precisión cae al 33,8 %, una puntuación apenas superior a la de una respuesta dada al azar.
Respuestas que varían según el idioma
La fiabilidad también depende del idioma utilizado. La precisión media alcanza el 88,6 % en inglés, francés, español y portugués. Desciende al 83,6 % en bengalí e hindi, al 81,4 % en urdu y al 78,3 % en suajili. « Si se hace la misma pregunta en tres idiomas, se pueden obtener respuestas muy diferentes », subraya Leona Verdadero. Sin embargo, las poblaciones que disponen de las respuestas menos fiables están también entre las más expuestas a las consecuencias del desajuste climático.
Estos resultados adquieren una dimensión particular dado que los asistentes conversacionales se utilizan cada vez más para informarse. Presentados en forma de diálogo, capaces de formular respuestas detalladas con seguridad, pueden dar la impresión de dominar el tema, incluso cuando se equivocan. « Estos modelos se están convirtiendo en verdaderas plataformas de información y parecen realmente inteligentes y seguros de sí mismos », observa la investigadora. Para la Unesco, el riesgo es que estas herramientas amplifiquen la desinformación climática al reforzar las ideas preconcebidas de los usuarios. « Este problema puede resolverse, pero requerirá esfuerzos, especialmente por parte del sector tecnológico », señala.
El tema surge en un momento en que se espera que la IA desempeñe un papel en la lucha contra el calentamiento global. El lunes, Turquía presentó en la COP31 « el compromiso de Antalya a favor de la inteligencia artificial ». Esta declaración insta a garantizar que la IA « forme parte de la lucha contra el calentamiento global », trabajando para que sea « alimentada de manera sostenible, diseñada de forma eficaz, evaluada con total transparencia y accesible para todos ».
