Vervalste video’s, deepfakes genoemd, gebruiken kunstmatige intelligentie om bekende personen dingen te laten zeggen die ze nooit gezegd hebben. Professor Renaud Piarroux, Michel Cymes of Jean-Marc Jancovici werden zo digitaal gedupliceerd, soms om producten te verkopen die ze niet goedkeuren.
In een online verspreide video presenteert prof. Renaud Piarroux de voordelen van een medicijn tegen darmwormen. De specialist in infectieziekten ontkent dit echter formeel: « Dat ben ik niet, het is volledig kunstmatig gemaakt, ik heb die woorden nooit uitgesproken. » Verschillende video’s misbruiken zijn beeld, en sinds enkele weken krijgt hij e-mails van misleide patiënten. « Het vertroebelt de medische boodschap, het vertroebelt alles wat een zekere eerlijkheid en expertise vereist, » betreurt hij.
Andere persoonlijkheden hebben hetzelfde lot ondergaan. De reportage noemt de acteur Jamel Debbouze, de arts Michel Cymes, de journaliste Élise Lucet, de presentatrice Marine Lorphelin en, meer recent, de energie- en klimaatexpert Jean-Marc Jancovici. Een valse video werd gemaakt om een medicijn te verkopen, en een valse reclame werd gemaakt met de stem van een van hen. In het geval van de heer Jancovici, die verklaart geen zonnepanelen te verkopen, geeft de betrokkene aan dat « aan de telefoon de stem de mijne was, behalve dat het duidelijk niet ik was ».
Hoe wordt een deepfake gemaakt?
Een deepfake is gebaseerd op bestaande content. Op internet staan honderden foto’s en video’s van de beoogde persoonlijkheid, die de AI gebruikt om diens beeld en stem te reconstrueren. Het systeem kan zo een avatar modelleren, waarvan sommige bijzonder gelijkend zijn. Geschat wordt dat er wereldwijd 8 miljoen deepfakes per jaar online worden verspreid.
Om het gemak van de techniek te tonen, heeft Thomas Huchon, journalist gespecialiseerd in deepfakes, zijn eigen AI-avatar gemaakt om desinformatie te bestrijden. Volgens hem wordt het resultaat « in enkele seconden » verkregen en is het « verbijsterend ». « Het zijn extreem krachtige, extreem performante tools, en als je ze in verkeerde handen legt, als je ze in handen legt van iemand die ons wil manipuleren, dan belanden we in een andere wereld, » waarschuwt hij.
Een juridisch kader en zijn grenzen
Europa verplicht platforms om door AI gegenereerde video’s te melden, maar een groot deel van deze content wordt niet geïdentificeerd. In Frankrijk voorziet de wet bij oplichting of identiteitsdiefstal door deepfake in een jaar gevangenisstraf en een boete van 15.000 euro.
