Когда искусственный интеллект ошибается при общении с клиентом, платит не инструмент, а компания, которая его подключила. Европейская директива должна сделать этот принцип правилом с 9 декабря 2026 года, даты, с которой она будет применяться к продуктам, выпущенным на рынок или введенным в эксплуатацию.
Выражение «платит тот, кто ломает», вернувшееся в дискуссии после событий 17 октября, ставит вопрос, который редко задают об ИИ: когда что-то ломается, кто платит? Законопроект был внесен в Национальное собрание 13 октября, а правительство продвигает собственный текст, который Сенат должен рассмотреть с 27 октября. Однако для компаний вопрос ИИ стоит уже в более четких терминах, чем принято думать.
Чат-бот — не третья сторона
В феврале 2024 года суд в Британской Колумбии рассмотрел дело между клиентом Air Canada Джейком Моффатом и авиакомпанией. Этот путешественник спросил у чат-бота, как получить льготный тариф для поездки на похороны близкого человека. Бот ответил, что он сможет запросить скидку после поездки, что было ложью, и компания отказалась возмещать ему расходы.
В суде Air Canada утверждала, что ее чат-бот является своего рода независимой сущностью, ответственной за свои собственные ответы. Этот аргумент был отклонен: ассистент является частью сайта компании, которая отвечает за все, что на нем размещено. Авиакомпанию обязали выплатить около 812 канадских долларов. Сумма скромная, но принцип важен: компания не может отсылать клиента к инструменту, который ошибся. Ломает инструмент, а платит тот, кто его поставил перед клиентом.
Ущерб, который не всегда виден
Ущерб не всегда принимает форму отказа в возмещении. Он может быть очевидным — в виде ложных ответов, неправильно рассчитанных смет или писем, отправленных не тому адресату. Он также может быть медленным, когда решения принимаются от имени ИИ до того, как это доказано. Так, Klarna признала в 2025 году, что ее автоматизированное обслуживание клиентов обходится дешевле, но дает более низкое качество, и что нужно нанимать обратно людей. Согласно колонке, из которой взят этот текст, счет оплатили плохо обслуженные клиенты, ушедшие за это время сотрудники, а затем и сама компания, которой пришлось восстанавливать то, что она разрушила.
Программное обеспечение становится таким же продуктом
Новая европейская директива об ответственности за дефектные продукты будет применяться к продуктам, выпущенным на рынок или введенным в эксплуатацию после 9 декабря 2026 года. Она прямо относит программное обеспечение к продуктам, включая ИИ. Разработчики могут считаться производителями, а компания, которая существенно изменяет продукт или интегрирует его в то, что продает, может оказаться в том же положении. Франции еще предстоит адаптировать свой гражданский кодекс, но дата установлена Брюсселем.
Текст в первую очередь защищает жертв ущерба и не разрешает все споры между компаниями. Между компанией и разработчиком ее ИИ действует договор, и пункт об ответственности за эти инструменты часто занимает несколько строк, как правило, ограничивая то, что разработчик обязуется выплатить. Если ИИ причиняет ущерб клиенту, весьма вероятно, что платить будет компания, а разработчик возместит лишь малую часть или вообще ничего.
Три вопроса, прежде чем доверить клиента ИИ
Колонка не рекомендует отказываться от ИИ, но советует знать, кто платит, прежде чем его подключать. Первый вопрос: кто и как исправляет ошибку, если ИИ ошибся перед клиентом. Нужно назначенное лицо, способное взять ситуацию под контроль, исправить ответ и принять коммерческое решение без ожидания комитета. Второй вопрос — перечитать, что договор предусматривает в качестве выплат от разработчика: если его ответственность ограничена несколькими месяцами подписки, риск остается на компании. Третий вопрос — можно ли доказать, что было сказано или сделано. Без журнала с точным ответом, временем и контекстом трудно защищаться или признать ошибку осознанно.
