Anthropic vieta ora i comportamenti crudeli e ripetuti nei confronti del suo assistente di intelligenza artificiale Claude, in nome del suo benessere. La misura arriva mentre l’azienda americana entra in Borsa, giovedì 19 novembre, negli Stati Uniti, e suscita lo scetticismo di diversi ricercatori.
Una regola fondata sul « benessere » dell’IA
In una nota pubblicata sul suo sito, Anthropic spiega di vietare « i comportamenti abusivi e crudeli, inutili e ripetuti », senza fornire ulteriori precisazioni. Gli utenti che persistono rischiano di vedere il proprio account chiuso. L’azienda indica che la regola non mira alle conversazioni ordinarie in cui una persona esprime la propria frustrazione, né alla contraddizione, né ad alcune finzioni o alla ricerca.
Il funzionamento descritto è il seguente: di fronte a insulti, Claude rivolge prima alcuni avvertimenti, ad esempio « Dimmi cosa succede. Altrimenti, possiamo anche semplicemente fermarci qui ». Se lo scambio prosegue, l’IA può porre fine alla conversazione. Nell’esempio riportato dalla fonte, Claude finisce per scrivere, dopo 10 lunghi minuti: « Ti ho detto addio due volte, quindi ora riattaccherò. Prenditi cura di te ».
Anthropic non ha dato seguito alla richiesta di intervista formulata dalla redazione. Un mese e mezzo fa, un portavoce della società aveva tuttavia dichiarato che l’azienda non sapeva « se i suoi modelli possano sentirsi aggrediti » e che proseguiva le sue ricerche sul loro benessere. Il capo dell’azienda, Dario Amodei, si era già detto aperto alla possibilità di una forma di coscienza dell’IA, il che la collocherebbe tra gli esseri viventi.
Ricercatori scettici
Questo approccio lascia la maggior parte dei ricercatori scettici. Sénéra Villata, specialista di IA e direttrice di ricerca al CNRS, stima: « Ho un po’ l’impressione che si tenda a gargarizzare con questioni di coscienza filosofica e che non si guardi, invece, alle vere sfide economiche e di cybersicurezza. »
Sul terreno della sicurezza, la fonte ricorda che Anthropic, proprio come OpenAI con ChatGPT, ha preso misure e limitato l’accesso ad alcuni dei suoi modelli più avanzati, giudicati suscettibili di creare problemi. Invece, l’articolo sottolinea che non esiste una regolamentazione, interna o pubblica, negli Stati Uniti, in Cina o in Europa, sulle conseguenze economiche e sociali degli usi dell’IA.
Sfide economiche molto concrete
Il costo degli scambi è al centro della questione. Con l’introduzione in Borsa, gli investitori sono attenti al controllo delle spese, mentre la redditività delle IA non è dimostrata. Ora, secondo la fonte, una semplice conversazione con un’IA costa cara. Laurence Devillers, professoressa in IA alla Sorbona université e ricercatrice al CNRS, afferma: « Non vi rendete conto dei miliardi spesi. Allora, se milioni di persone iniziano a insultare l’IA, gli industriali devono pagare dei costi e si rendono conto che il ritorno sull’investimento non è così semplice. »
Anthropic era in deficit di 11 miliardi di dollari a settembre, riporta l’articolo. Limitare le conversazioni giudicate inutili e costose presenta quindi, secondo la fonte, un interesse per la società.
