Dei video falsificati, chiamati deepfake, utilizzano l’intelligenza artificiale per far dire a personaggi pubblici cose che non hanno mai detto. Il professor Renaud Piarroux, Michel Cymes o Jean-Marc Jancovici sono stati così duplicati digitalmente, talvolta per vendere prodotti che non approvano.
In un video diffuso online, il professor Renaud Piarroux presenta i benefici di un medicinale contro i vermi intestinali. Lo specialista in malattie infettive smentisce però formalmente: «Non sono io, è fatto in modo totalmente artificiale, non ho mai pronunciato quelle parole». Diversi video distorcono la sua immagine e, da diverse settimane, riceve email da pazienti ingannati. «Confonde il discorso medico, confonde tutto ciò che richiede una certa onestà, una competenza», si rammarica.
Altri personaggi pubblici hanno subito la stessa sorte. Il servizio cita l’attore Jamel Debbouze, il medico Michel Cymes, la giornalista Élise Lucet, la conduttrice Marine Lorphelin e, più recentemente, l’esperto di energia e clima Jean-Marc Jancovici. Un falso video è stato creato per vendere un medicinale e una falsa pubblicità è stata realizzata con la voce di uno di loro. Nel caso del signor Jancovici, che afferma di non vendere pannelli solari, l’interessato indica che «al telefono, la voce era la mia, salvo che ovviamente non ero io».
Come viene realizzato un deepfake?
Un deepfake si basa su contenuti esistenti. Su Internet esistono centinaia di foto e video del personaggio preso di mira, che l’IA sfrutta per ricostruire la sua immagine e la sua voce. Il sistema può così modellare un avatar, alcuni dei quali sono particolarmente somiglianti. Si stima che il numero di deepfake diffusi online ogni anno nel mondo sia di 8 milioni.
Per mostrare la facilità della tecnica, Thomas Huchon, giornalista specializzato in deepfake, ha progettato il proprio avatar tramite IA per lottare contro la disinformazione. Secondo lui, il risultato si ottiene «in pochi secondi» ed è «sbalorditivo». «Sono strumenti estremamente potenti, estremamente performanti, e se li mettiamo nelle mani sbagliate, se li mettiamo nelle mani di qualcuno che vuole manipolarci, passiamo in un altro universo», avverte.
Un quadro giuridico e i suoi limiti
L’Europa obbliga le piattaforme a segnalare i video generati dall’IA, ma gran parte di questi contenuti non viene identificata. In Francia, in caso di frode o furto d’identità tramite deepfake, la legge prevede un anno di reclusione e 15.000 euro di multa.
