In un post pubblicato sul suo blog, l’autore torna sul dibattito che lo ha opposto a Keith Teare nel marzo 2023, organizzato da Open to Debate, sulla questione se ChatGPT avrebbe fatto più male che bene. Secondo lui, l’elenco degli effetti negativi dell’IA generativa è oggi « abbastanza serio », e l’ondata di attacchi informatici recente pesa particolarmente in questa valutazione.
Un bilancio negativo che si appesantisce
L’autore enumera diversi motivi di preoccupazione: i deepfake pornografici realizzati senza consenso, l’aumento delle truffe di phishing, la disinformazione su larga scala, quella che lui chiama la « capitolazione cognitiva », le minacce per la democrazia legate all’influenza discreta di alcuni governi sui grandi modelli linguistici (LLM), cioè i sistemi che generano testo, nonché l’uso dell’IA generativa come strumento di sorveglianza. Cita anche le conseguenze del furto di proprietà intellettuale su artisti e scrittori.
Evoca infine una serie di attacchi informatici che alcuni hanno soprannominato « Black October ». Paul Kedrosky l’ha battezzata « The Hackening ». Marc Benioff, CEO di Salesforce, l’ha definita « Code red », riprendendo un messaggio di Jason Clinton, di Anthropic, e giudicando che avesse « 100% » ragione. L’autore ritiene che entrambi abbiano ragione, precisando però che Jason Clinton pensa che questo periodo difficile potrebbe durare forse solo un anno o due.
Dei benefici meno visibili
Per riassumere il lato positivo, l’autore si basa su Torsten Slok, capo economista di Apollo Global Management, sebbene talvolta favorevole alla tecnologia. Quest’ultimo afferma, in un’analisi che l’autore giudica severa, che molti degli effetti positivi annunciati semplicemente non si materializzano.
Questa valutazione non respinge in blocco tutti gli usi. L’autore riconosce che alcuni suoi conoscenti traggono molto profitto dall’IA generativa, principalmente per lo sviluppo software. Ritiene tuttavia che non sia più difficile sostenere che la tecnologia sia stata, nel complesso, uno svantaggio netto per la società. Aggiunge che rimane la possibilità che essa faccia crollare l’intera economia, senza sviluppare ulteriormente questo punto.
Il post si conclude con un annuncio: l’autore tornerà a Open to Debate a Baltimora, insieme a Cathy O’Neil. Non ci sarà una trasmissione in diretta, ma versioni montate dell’evento dovrebbero essere pubblicate successivamente su YouTube e su molte emittenti affiliate a NPR, tra cui WNYC.
