Gefälschte Videos, sogenannte Deepfakes, nutzen künstliche Intelligenz, um Persönlichkeiten Aussagen in den Mund zu legen, die sie nie getätigt haben. Professor Renaud Piarroux, Michel Cymes oder Jean-Marc Jancovici wurden so digital dupliziert, teilweise um Produkte zu verkaufen, die sie nicht befürworten.
In einem online verbreiteten Video stellt Professor Renaud Piarroux die Vorteile eines Medikaments gegen Darmwürmer vor. Der Spezialist für Infektionskrankheiten dementiert jedoch entschieden: „Das bin nicht ich, das ist völlig künstlich gemacht, ich habe diese Worte nie ausgesprochen. » Mehrere Videos verfälschen sein Bild, und seit mehreren Wochen erhält er E-Mails von getäuschten Patienten. „Das verwirrt die medizinische Aussage, es verwirrt alles, was eine gewisse Ehrlichkeit, eine Expertise erfordert », bedauert er.
Andere Persönlichkeiten haben dasselbe Schicksal erlitten. Der Bericht nennt den Schauspieler Jamel Debbouze, den Arzt Michel Cymes, die Journalistin Élise Lucet, die Moderatorin Marine Lorphelin und, jüngst, den Energie- und Klimaexperten Jean-Marc Jancovici. Ein gefälschtes Video wurde erstellt, um ein Medikament zu verkaufen, und eine gefälschte Werbung wurde mit der Stimme eines von ihnen produziert. Im Fall von Herrn Jancovici, der betont, keine Solarpaneele zu verkaufen, erklärt der Betroffene, dass „am Telefon die Stimme meine war, nur dass es offensichtlich nicht ich war ».
Wie wird ein Deepfake hergestellt?
Ein Deepfake basiert auf vorhandenen Inhalten. Im Internet gibt es Hunderte von Fotos und Videos der Zielperson, die die KI nutzt, um ihr Bild und ihre Stimme zu rekonstruieren. Das System kann so einen Avatar modellieren, von denen einige besonders täuschend ähnlich sind. Schätzungen zufolge werden weltweit jedes Jahr 8 Millionen Deepfakes online verbreitet.
Um die Einfachheit der Technik zu zeigen, hat Thomas Huchon, Journalist und Deepfake-Experte, seinen eigenen KI-Avatar entwickelt, um gegen Desinformation zu kämpfen. Seiner Aussage nach wird das Ergebnis „in wenigen Sekunden » erzielt und ist „verblüffend ». „Das sind extrem mächtige, extrem leistungsfähige Werkzeuge, und wenn man sie in die falschen Hände gibt, wenn man sie jemandem gibt, der uns manipulieren will, betreten wir eine andere Welt », warnt er.
Ein rechtlicher Rahmen und seine Grenzen
Europa verpflichtet Plattformen, KI-generierte Videos zu kennzeichnen, aber ein Großteil dieser Inhalte wird nicht identifiziert. In Frankreich sieht das Gesetz bei Betrug oder Identitätsdiebstahl durch Deepfake eine Freiheitsstrafe von einem Jahr und eine Geldstrafe von 15.000 Euro vor.
