ドイツの地方裁判所は、GoogleのAIが提供した回答について、Googleに責任があると判断した。その回答は、ある医師について正確な事実を述べていたが、それは別の男性に属するものだった。2026年9月24日付けの判決で、アーヘン地方裁判所は、Googleに対し、この医師に関するAIモードの回答の3つのバージョンの配信を停止するよう命じた。
この主任医師で神経放射線学の教授は、6月末に職を離れた。ネットユーザーがその離職理由を検索すると、AIモードは重大な刑事告発を提供していた。「停職」、「解雇」、「司法手続き」といった言葉を含むフォローアップの検索では、数段落にわたる司法手続きの経緯が語られた。これらの手続きは確かに存在したが、それは別の男性（彼も元大学教授）に関するものであり、裁判所は自らの記録から混同を確認することができた。
医師は8月末にGoogleに詳細な説明を送付した。9月中旬、Googleは何の措置も講じないと回答し、同日送付された警告状も無視された。裁判所はその後、Googleの事前の意見聴取なしに緊急判決を下し、違反1件につき最大25万ユーロの罰金を科す可能性があるとした。Googleはこの命令に対し、まだ異議を申し立てることができる。
訴訟の結果よりも、裁判所の論理が注目を集めている。アーヘン裁判所は、ミュンヘン地方裁判所の以前の判決を根拠としている。ミュンヘンの判決では、GoogleがAI概要機能により、2つの出版社を詐欺やサブスクリプショントラップに関連付けたことについて、Googleに直接的な責任があるとされた。その主張は、引用されたすべての情報源には存在しなかった。Googleは、ユーザーが自らこれらの情報源を確認できると主張した。裁判所はこの主張を退け、要約は独立した声明として読めるものであり、これらの生成物を「第三者のサイトのコンテンツから構築された、独立した、新規の、実質的な声明」と表現した。アーヘン裁判所はこの表現を踏襲した。Googleはミュンヘンの判決に対して控訴を表明したが、その後The Decoderによれば、上級裁判所が判断を下す前に和解に至った。
ベルリンでの異なる解釈
6月、ベルリンの裁判所は商標に関する訴訟で逆の結論に達した。香水会社が、自社の商標を、より安価な模造品を販売するリンクの隣に引用したAI概要機能を争った。ベルリン裁判所は、これらの要約を、Googleの発言ではなく、他のサイトからの情報を集約した検索結果の新しい形式であると見なした。商標侵害は認められなかった。
これらの事件は完全には一致しない。元の論説の著者であるDuane Forresterの分析によれば、ベルリンの要約は他のサイトが述べていることを忠実に反映していたのに対し、ミュンヘンとアーヘンの回答は、どの情報源も行っていない関連付けを行っていた。同じ国の裁判所が、同じ製品を相容れない言葉で説明しており、上級裁判所の判断はまだない。
著者によれば、問題のメカニズムは結果よりもありふれたものだ。人物や企業に関する質問に答えるシステムは、名前や、役職、機関、都市、最近の出来事などの近接する属性に一致する文書を取得し、それらの要素から単一の物語を生成する。2つの実体が十分な属性を共有すると、システムはそれらの情報を融合する。著者はこれを「実体の混同」と呼ぶ。2024年には、Microsoft Copilotが、ドイツの司法記者を、彼が長年取材していた犯罪の作者として描写した。彼の名前は、彼自身の記事の中でそれらの事件の隣に記載されていたからだ。
