С 2 августа 2026 года статья 50 AI Act применяется без послаблений, в отличие от статьи 4, переписанной этим летом регламентом (ЕС) 2026/1744. Этот текст касается не только разработчиков моделей: компания, которая размещает онлайн-ассистента, публикует сгенерированные визуалы или распространяет тексты, созданные ИИ, подпадает под его действие напрямую.
Четыре обязательства, два типа субъектов
Статья 50 различает поставщиков, которые разрабатывают систему ИИ или выводят ее на рынок, и пользователей, которые используют ее в своей деятельности. Поставщики систем, предназначенных для прямого взаимодействия с людьми, должны обеспечить, чтобы те знали, что общаются с ИИ, за исключением случаев, когда это очевидно для разумно информированного человека.
Поставщики систем, генерирующих текст, изображения, звук или видео, кроме того, должны маркировать эти выходные данные в машиночитаемом формате, чтобы их можно было обнаружить как искусственные. Пользователи систем распознавания эмоций или биометрической категоризации, со своей стороны, должны предупреждать людей, которые с ними сталкиваются.
Наконец, пользователи, распространяющие гиперподдельные изображения, звуки или видео, то есть дипфейки, должны указывать, что они были сгенерированы или изменены. То же правило действует для текстов, публикуемых с целью информирования общественности по вопросам, представляющим общий интерес, за исключением случаев, когда они были проверены человеком и за их редакционную ответственность отвечает конкретное лицо.
Единственное послабление касается маркировки
Генеративные системы, выпущенные на рынок до 2 августа 2026 года, должны применить маркировку до 2 декабря 2026 года согласно регламенту (ЕС) 2026/1744. Другие обязательства не получили никакой отсрочки. Кодекс надлежащей практики по прозрачности генерируемого контента был завершен этим летом. Он не является обязательным, но предлагает методологию.
Часто можно прочитать, что эти обязательства касаются в первую очередь OpenAI, Microsoft или Mistral. Это верно в отношении маркировки выходных данных их моделей, но гораздо меньше, когда компания собирает собственного ассистента, например, агента Copilot Studio или чат-бота, построенного на API и развернутого под ее именем. Тогда она может рассматриваться как поставщик этой системы, и информирование пользователя ложится на нее. Обязательства пользователя, касающиеся дипфейков, текстов общественного интереса и распознавания эмоций, в любом случае остаются за ней.
Что нужно проверить
Каждый диалоговый агент, доступный клиентам или сотрудникам, должен сообщать о себе с первого взаимодействия, например, фразой «Вы общаетесь с автоматизированным ассистентом», а не внизу страницы с юридической информацией. Голосовые агенты подпадают под те же требования. Сгенерированные визуалы, голоса или видео, реалистично изображающие людей, места или события, должны содержать пометку, как только они могут сойти за подлинные. Для явно творческого или сатирического произведения достаточно незаметной пометки.
Публикуемые тексты, посты, пресс-релизы или рассылки должны быть помечены, если они сгенерированы без проверки человеком и без назначенного ответственного редактора. Документированная проверка остается лучшей защитой. Кроме того, распознавание эмоций на рабочем месте запрещено статьей 5, за исключением медицинских или соображений безопасности, что требует тщательного изучения кадровых инструментов или инструментов кол-центра, которые «измеряют вовлеченность». Для приобретаемых инструментов необходимо запрашивать у разработчиков, внедрена ли маркировка их выходных данных или планируется ли ее внедрение до 2 декабря.
Чем это грозит
Нарушение статьи 50 может повлечь штраф до 15 миллионов евро или 3% от мирового оборота, применяется большая из сумм. Для малых и средних предприятий применяется меньшая из двух сумм. Компания, которая уже провела инвентаризацию своих случаев использования ИИ для статьи 4, имеет основу для работы. Достаточно добавить четыре вопроса: взаимодействует ли инструмент напрямую с людьми, производит ли он контент для внешнего распространения, кто является его поставщиком в смысле регламента и какая пометка используется?
