ディープフェイクと呼ばれる偽造動画は、人工知能を利用して有名人が実際には発言していない言葉を話しているように見せかけます。ルノー・ピアルー教授、ミシェル・シメス、ジャン＝マルク・ジャンコヴィシなどがデジタル的に複製され、時には彼らが承認していない製品を販売するために利用されています。
オンラインで公開されたある動画では、ルノー・ピアルー教授が腸内寄生虫に対する薬の効能を説明しています。しかし、この感染症専門家は正式に否定しています：「これは私ではありません。完全に人工的に作られたもので、私は一度もこんな言葉を発したことはありません。」彼の画像を悪用した複数の動画が存在し、ここ数週間、騙された患者たちからのメールを受け取っているといいます。「これは医療の発言を混乱させ、ある種の誠実さと専門知識を必要とするすべてのものを混乱させます」と彼は嘆きます。
他の著名人たちも同様の運命をたどりました。報道では、俳優のジャメル・デブーズ、医師のミシェル・シメス、ジャーナリストのエリーズ・リュセ、司会者のマリーン・ロルフェラン、そして最近ではエネルギー・気候問題の専門家ジャン＝マルク・ジャンコヴィシが挙げられています。薬を販売するための偽の動画が作られ、また彼らのうちの一人の声を使った偽の広告も作成されました。太陽光パネルを販売していないと主張するジャンコヴィシ氏の場合、本人は「電話では声は私のものだったが、明らかに私本人ではなかった」と述べています。
ディープフェイクはどのように作られるのか？
ディープフェイクは既存のコンテンツに依存しています。インターネット上には、ターゲットとなる人物の何百もの写真や動画が存在し、AIはそれらを利用してその人物の画像と声を再構築します。このシステムはアバターをモデル化することができ、中には特に似せたものもあります。世界中で毎年オンラインに公開されるディープフェイクの数は800万件と推定されています。
この技術の容易さを示すため、ディープフェイク専門ジャーナリストのトマ・ユションは、偽情報対策としてAIで自身のアバターを作成しました。彼によると、結果は「数秒で」得られ、「驚くべきもの」だといいます。「これらは非常に強力で高性能なツールであり、もし悪意のある人物の手に渡り、誰かが私たちを操作したいと思った場合、私たちは別の世界に足を踏み入れることになります」と彼は警告します。
法的枠組みとその限界
欧州はプラットフォームに対し、AIによって生成された動画を報告することを義務付けていますが、これらのコンテンツの大部分は特定されていません。フランスでは、ディープフェイクによる詐欺やなりすましの場合、法律は1年の禁錮刑と15,000ユーロの罰金を規定しています。
