Поддельные видео, называемые дипфейками, используют искусственный интеллект, чтобы заставить известных людей говорить то, чего они никогда не говорили. Профессор Рено Пьяру, Мишель Сим или Жан-Марк Жанковичи были таким образом оцифрованы и дублированы, иногда для продажи продуктов, которые они не одобряют.
В видео, размещенном в сети, профессор Рено Пьяру рассказывает о преимуществах лекарства от кишечных паразитов. Однако специалист по инфекционным заболеваниям категорически опровергает: «Это не я, это сделано полностью искусственно, я никогда не произносил этих слов». Несколько видео используют его образ, и уже несколько недель он получает письма от обманутых пациентов. «Это подрывает медицинскую речь, подрывает все, что требует определенной честности, экспертизы», — сожалеет он.
Другие известные люди постигла та же участь. В репортаже упоминаются актер Жамель Деббуз, врач Мишель Сим, журналистка Элиз Люсе, телеведущая Марин Лорфелен и, совсем недавно, эксперт по энергетике и климату Жан-Марк Жанковичи. Было создано фальшивое видео для продажи лекарства, и была сделана фальшивая реклама с голосом одного из них. В случае с г-ном Жанковичи, который утверждает, что не продает солнечные панели, заинтересованное лицо указывает, что «по телефону голос был мой, за исключением того, что это, очевидно, был не я».
Как создается дипфейк?
Дипфейк основан на существующем контенте. В интернете есть сотни фотографий и видео целевой личности, которые ИИ использует для воссоздания ее образа и голоса. Система может смоделировать аватар, некоторые из которых особенно похожи. По оценкам, ежегодно в мире публикуется около 8 миллионов дипфейков.
Чтобы продемонстрировать простоту технологии, Томас Юшон, журналист, специализирующийся на дипфейках, создал свой собственный ИИ-аватар для борьбы с дезинформацией. По его словам, результат достигается «за несколько секунд» и он «ошеломляющий». «Это чрезвычайно мощные, чрезвычайно эффективные инструменты, и если они попадут в плохие руки, если они попадут в руки того, кто хочет нами манипулировать, мы переходим в другую вселенную», — предупреждает он.
Правовые рамки и их ограничения
Европа обязывает платформы маркировать видео, созданные с помощью ИИ, но большая часть такого контента не идентифицируется. Во Франции в случае мошенничества или кражи личности с помощью дипфейка закон предусматривает один год тюремного заключения и штраф в размере 15 000 евро.
