AIが顧客対応で誤りを犯した場合、責任を負うのはツールそのものではなく、それを導入した企業である。欧州の指令により、この原則は2026年12月9日以降、市場に投入または稼働開始される製品に適用されるルールとなる。
10月17日の暴動以来、議論に再浮上した「破損者負担」という表現は、AIに関してめったに問われない問題を提起する：何かが壊れたとき、誰が支払うのか？10月13日に国民議会に法案が提出され、政府は独自の法案を擁護しており、上院は10月27日から審議を開始する予定だ。しかし、企業にとってのAI問題は、すでに考えられている以上に明確な形で存在している。
チャットボットは第三者ではない
2024年2月、ブリティッシュ・コロンビア州の裁判所が、エア・カナダの顧客ジェイク・モファットと同社との間の訴訟を裁定した。この旅行者は、身内の葬儀に参列するための割引運賃の適用方法を対話型アシスタントに尋ねた。アシスタントは旅行後に割引を申請できると回答したが、これは誤りであり、同社は返金を拒否した。
裁判でエア・カナダは、自社のチャットボットはある種独立した存在であり、自らの回答に責任を負うと主張した。この主張は退けられた：アシスタントは同社のウェブサイトの一部であり、同社はそこに掲載されるすべての内容について責任を負う。同社は約812カナダドルの支払いを命じられた。金額はささやかだが、原則は重要である：企業は、誤りを犯したツールに顧客を向き合わせることはできない。破損者はツールであり、支払い義務を負うのはそれを顧客の前に配置した者だ。
必ずしも目に見えない損害
損害は常に返金拒否という形をとるわけではない。誤った回答、誤った見積もり計算、誤った宛先へのメール送信など、目に見える形で現れることもある。また、AIの名の下に決定が下された後でその証拠が得られるまでの間、ゆっくりと進行する場合もある。クラルナは2025年、自動化されたカスタマーサービスはコストは低いが品質は劣り、人間を再雇用する必要があったと認めた。この記事の基となったコラムによれば、その代償は、不適切なサービスを受けた顧客、その間に去ったチーム、そして自ら壊したものを再構築しなければならなかった企業自身によって支払われた。
ソフトウェアは他の製品と同様になる
欠陥製品責任に関する新たな欧州指令は、2026年12月9日以降に市場に投入または稼働開始される製品に適用される。これはソフトウェア（AIを含む）を明示的に製品に分類する。開発業者は製造業者とみなされる可能性があり、製品を実質的に変更したり、自社の販売製品に組み込んだりする企業も同様の立場に置かれる可能性がある。フランスはまだ民法典を調整する必要があるが、実施日はブリュッセルによって設定されている。
この文書はまず被害者を保護するものであり、企業間のすべての紛争を解決するものではない。企業とそのAI開発業者の間では、契約が優先され、これらのツールの責任条項は通常数行にすぎず、開発業者が支払いを約束する範囲を一般的に制限している。したがって、AIが顧客に損害を与えた場合、企業が支払いを負担し、開発業者はわずかな部分しか返金しないか、まったく返金しない可能性が高い。
顧客対応をAIに委ねる前に考えるべき3つの問い
このコラムはAIの利用を止めるよう勧めているわけではなく、導入前に誰が支払うのかを知るよう促している。第一の問いは、AIが顧客対応で誤った場合、誰がどのように修復するかだ。指名された担当者が、対応を引き継ぎ、回答を修正し、委員会を待たずに商業的な対応を決定できる必要がある。第二は、契約で開発業者が支払うと定められている内容を再確認することだ：その責任が数か月分の利用料に限定されている場合、リスクは企業側に残る。第三は、何が言われ、何が行われたかを証明できるかどうかだ。正確な回答、時刻、文脈を含む記録がなければ、自己防衛したり、過失を認識したりすることは難しい。
