Articoli scientifici interamente generati da IA possono superare i filtri delle riviste? Il giornalista e dottore in matematica applicata Benjamin Skuse ha tentato l’esperimento presso l’editore IEEE. Secondo il racconto pubblicato da IEEE Spectrum, i controlli dell’editore tengono per il momento, ma la corsa tra contenuti artificiali e strumenti di rilevamento resta serrata.
- Il giornalista Benjamin Skuse ha generato con l’IA un articolo scientifico che tenta di superare i filtri delle riviste.
- IEEE resiste per ora grazie alla revisione umana e ai controlli di integrità della ricerca.
- Wikipedia affronta lo stesso problema con meno persone e strumenti, affidandosi a volontari.
- Il rischio è che la fiducia nella conoscenza si indebolisca e che le IA finiscano per scrivere per altre IA.
Il reportage di Benjamin Skuse, intitolato «I Used AI to Fake a Scientific Paper», descrive la facilità con cui un testo approssimativamente plausibile e approssimativamente scientifico può essere prodotto. Secondo Eliza Strickland, caporedattrice delle funzionalità e dell’IA presso IEEE Spectrum, è rimasto sorpreso dalla semplicità della procedura. «Ha semplicemente premuto ‘run experiment’ e ‘write paper’. E poi, non ha fatto la minima cosa. L’ha semplicemente lanciato nella gola del sistema di pubblicazione», racconta.
Secondo Benjamin Skuse, la combinazione della revisione umana e dei programmi di verifica dell’integrità della ricerca di IEEE permette, per il momento, di tenere il passo con questi tentativi, che rientrano in un gioco del gatto e del topo di fronte agli strumenti gratuiti. I grandi modelli linguistici più avanzati non commettono tuttavia più gli errori grossolani delle loro versioni gratuite. Gli editori si trovano così impegnati in una corsa tra contenuti sempre più credibili e i sistemi incaricati di individuarli. Per ricordare, un grande modello linguistico, o LLM, è un programma addestrato su vasti volumi di testi per produrre linguaggio.
Wikipedia in prima linea
Gli editori scientifici non sono i soli a resistere. Wikipedia affronta lo stesso problema. Nell’ambito della sua rubrica «Five Questions», Eliza Strickland ha intervistato Ellia Lebleu, membro fondatore di WikiProject AI Cleanup, un’iniziativa di volontari che mira a rilevare e rimuovere i contenuti generati da IA sulla piattaforma. Il suo team affronta la stessa difficoltà degli editori commerciali, ma con meno persone e meno strumenti.
Per Eliza Strickland, Wikipedia è riconosciuta come un serbatoio di informazioni prodotte da umani, e la piattaforma intende rimanere tale. «Chissà per quanto tempo potranno farlo?», si interroga.
La questione va oltre il quadro di questi due attori. Se non si può più considerare collettivamente che la letteratura scientifica sia affidabile, o che i fatti di base sul mondo siano esatti, la comprensione di ciò che è reale diventa incerta. Questa incertezza indebolisce la fiducia verso le istituzioni incaricate di tenere aggiornato il corpus delle conoscenze umane.
Eliza Strickland evoca anche una prospettiva più inquietante. «Non è folle che avremo, a un certo punto, delle IA che scrivono per altre IA? Saremo semplicemente esclusi dal ciclo.»
