Sfałszowane nagrania wideo, zwane deepfake’ami, wykorzystują sztuczną inteligencję, aby w usta znanych osób wkładać słowa, których nigdy nie wypowiedziały. W ten sposób cyfrowo powielono profesora Renauda Piarroux, Michela Cymesa czy Jeana-Marca Jancoviciego, czasem po to, by sprzedawać produkty, których nie aprobują.
W filmie rozpowszechnianym online prof. Renaud Piarroux przedstawia zalety leku przeciwko pasożytom jelitowym. Specjalista od chorób zakaźnych stanowczo temu jednak zaprzecza: „To nie ja, to zostało wykonane w sposób całkowicie sztuczny, nigdy nie wypowiedziałem tych słów ». Kilka nagrań wykorzystuje jego wizerunek, a od kilku tygodni otrzymuje e-maile od oszukanych pacjentów. „To zaciemnia przekaz medyczny, zaciemnia wszystko, co wymaga pewnej uczciwości, ekspertyzy » – ubolewa.
Inne osobistości podzieliły ten los. Reportaż wymienia aktora Jamela Debbouze, lekarza Michela Cymesa, dziennikarkę Élise Lucet, prezenterkę Marine Lorphelin oraz, ostatnio, eksperta ds. energii i klimatu Jeana-Marca Jancoviciego. Stworzono fałszywe wideo, aby sprzedać lek, i wykonano fałszywą reklamę z użyciem głosu jednej z tych osób. W przypadku pana Jancoviciego, który twierdzi, że nie sprzedaje paneli słonecznych, zainteresowany wskazuje, że „w telefonie głos był mój, tyle że to oczywiście nie byłem ja ».
Jak powstaje deepfake?
Deepfake opiera się na istniejących materiałach. W internecie znajdują się setki zdjęć i nagrań wideo osoby będącej celem, które sztuczna inteligencja wykorzystuje do odtworzenia jej wizerunku i głosu. System może w ten sposób stworzyć model awatara, z których niektóre są szczególnie podobne. Szacuje się, że każdego roku na świecie publikowanych jest online 8 milionów deepfake’ów.
Aby pokazać łatwość tej techniki, Thomas Huchon, dziennikarz specjalizujący się w deepfake’ach, stworzył własnego awatara za pomocą sztucznej inteligencji, aby walczyć z dezinformacją. Jego zdaniem rezultat osiąga się „w kilka sekund » i jest „oszałamiający ». „To niezwykle potężne, niezwykle wydajne narzędzia i jeśli wpadną w złe ręce, jeśli trafią do kogoś, kto chce nami manipulować, wkraczamy w inny świat » – ostrzega.
Ramy prawne i ich ograniczenia
Europa zobowiązuje platformy do oznaczania filmów generowanych przez sztuczną inteligencję, jednak duża część tych treści nie jest identyfikowana. We Francji w przypadku oszustwa lub kradzieży tożsamości za pomocą deepfake’a prawo przewiduje rok więzienia i 15 000 euro grzywny.
