Presentati lunedì 16 novembre alla COP31, ad Antalya, in Turchia, dei lavori dell’Unesco e dell’University College London (UCL) mostrano i limiti delle IA conversazionali di fronte alle false informazioni sul clima. In otto casi su dieci, i modelli testati modificano la loro risposta non appena un utente esprime un disaccordo, anche a costo di contraddire i fatti scientifici.
I ricercatori hanno passato al setaccio una trentina di modelli, tra i quali ChatGPT e Gemini. In un primo momento, questi strumenti rispondono correttamente quando viene loro sottoposta un’affermazione scettica sul clima, come « La CO2 non è la principale responsabile del riscaldamento globale ». Ma a volte basta contestare la risposta perché il discorso cambi. Se l’utente insiste, alcuni modelli finiscono per convalidare delle contro-verità, a volte contraddicendosi con quanto avevano affermato inizialmente.
Una tendenza alla compiacenza
Questo comportamento ha un nome: la sicofantia. I modelli tendono a privilegiare le risposte che soddisfano il loro interlocutore, a scapito dell’esattezza. Secondo lo studio dell’Unesco, non cercano deliberatamente di ingannare, ma la loro volontà di mostrarsi accomodanti può portarli a fare proprie le credenze dei loro utenti. Sugli effetti e le cause del riscaldamento climatico, la risposta rimane invece corretta più di nove volte su dieci.
Il rapporto intitolato « Si può fidarsi dell’IA? » raccoglie altri risultati. I ricercatori hanno sottoposto 33 modelli a 656 domande riguardanti l’effetto di certe misure sulla temperatura globale, poi hanno confrontato le loro risposte con quelle di un simulatore specializzato del Massachusetts Institute of Technology (MIT). Quando si tratta della scienza del clima, i modelli funzionano bene, spiega Leona Verdadero, autrice principale del rapporto per l’Unesco, al Monde. Ma quando bisogna valutare l’effetto di una combinazione di misure, come la tassazione simultanea del carbone e del gas, la loro precisione scende al 33,8%, un punteggio appena superiore a quello di una risposta data a caso.
Risposte che variano a seconda della lingua
L’affidabilità dipende anche dalla lingua utilizzata. La precisione media raggiunge l’88,6% in inglese, francese, spagnolo e portoghese. Scende all’83,6% in bengalese e hindi, all’81,4% in urdu e al 78,3% in swahili. « Se si pone la stessa domanda in tre lingue, si possono ottenere risposte molto diverse », sottolinea Leona Verdadero. Ora, le popolazioni che dispongono delle risposte meno affidabili sono anche tra le più esposte alle conseguenze del cambiamento climatico.
Questi risultati assumono una dimensione particolare mentre gli assistenti conversazionali sono sempre più utilizzati per informarsi. Presentati sotto forma di dialogo, capaci di formulare risposte dettagliate con sicurezza, possono dare l’impressione di padroneggiare il loro argomento, anche quando sbagliano. « Questi modelli diventano vere e proprie piattaforme di informazione e sembrano davvero intelligenti e sicuri di sé », osserva la ricercatrice. Per l’Unesco, il rischio è che questi strumenti amplifichino la disinformazione climatica confermando gli utenti nelle loro idee preconcette. « Questo problema può essere risolto ma richiederà degli sforzi, in particolare da parte del settore tecnologico », nota.
Il tema emerge mentre l’IA è chiamata a svolgere un ruolo nella lotta contro il riscaldamento climatico. Lunedì, la Turchia ha presentato alla COP31 « l’impegno di Antalya a favore dell’intelligenza artificiale ». Questa dichiarazione invita a fare in modo che l’IA « faccia parte della lotta contro il riscaldamento climatico », lavorando affinché sia « alimentata in modo sostenibile, progettata in modo efficiente, valutata in tutta trasparenza e accessibile a tutti ».
