Wenn sich eine künstliche Intelligenz gegenüber einem Kunden irrt, zahlt nicht das Werkzeug, sondern das Unternehmen, das es angeschlossen hat. Eine EU-Richtlinie soll dieses Prinzip ab dem 9. Dezember 2026 zur Regel machen, dem Datum, an dem sie für in Verkehr gebrachte oder in Betrieb genommene Produkte gilt.
- Das Unternehmen trägt den Schaden, wenn seine KI einen Kunden falsch informiert.
- Ein kanadisches Gericht verurteilte Air Canada, weil der Chatbot Teil der Website war.
- Ab dem 9. Dezember 2026 gelten Software und KI als Produkte, und Hersteller haften dafür.
- Unternehmen sollten vor dem Einsatz klären, wer haftet, wer korrigiert und wie Antworten nachweisbar bleiben.
Der Ausdruck ‘Verursacherprinzip’, der seit den Gewalttaten vom 17. Oktober wieder in den Debatten auftaucht, wirft eine Frage auf, die man sich selten über KI stellt: Wenn etwas kaputtgeht, wer zahlt? Ein Gesetzesvorschlag wurde am 13. Oktober in der Nationalversammlung eingebracht, und die Regierung verteidigt ihren eigenen Text, den der Senat ab dem 27. Oktober prüfen soll. Für Unternehmen stellt sich die KI-Frage jedoch bereits in schärferen Begriffen, als man denkt.
Ein Chatbot ist kein Dritter
Im Februar 2024 entschied ein Gericht in British Columbia in einem Rechtsstreit zwischen einem Kunden von Air Canada, Jake Moffatt, und der Fluggesellschaft. Dieser Reisende hatte den Chat-Assistenten gefragt, wie er einen ermäßigten Tarif für die Teilnahme an der Beerdigung eines Angehörigen erhalten könne. Der Assistent hatte geantwortet, er könne die Ermäßigung nach seiner Reise beantragen, was falsch war, und die Airline weigerte sich, ihn zu erstatten.
Vor Gericht argumentierte Air Canada, ihr Chatbot sei gewissermaßen eine eigenständige Einheit, die für ihre eigenen Antworten verantwortlich sei. Das Argument wurde verworfen: Der Assistent ist Teil der Website der Airline, die für alles darauf verantwortlich ist. Die Airline wurde zur Zahlung von etwa 812 kanadischen Dollar verurteilt. Die Summe ist bescheiden, das Prinzip jedoch nicht: Ein Unternehmen kann seinen Kunden nicht auf das Werkzeug verweisen, das sich geirrt hat. Der Verursacher ist das Werkzeug, der Zahlende ist derjenige, der es dem Kunden vorgesetzt hat.
Ein Schaden, der nicht immer sichtbar ist
Der Schaden äußert sich nicht immer in Form einer verweigerten Rückerstattung. Er kann sichtbar sein, mit falschen Antworten, falsch kalkulierten Angeboten oder an den falschen Empfänger gesendeten E-Mails. Er kann auch schleichend sein, wenn Entscheidungen im Namen der KI getroffen werden, bevor man Beweise dafür hat. Klarna räumte 2025 ein, dass sein automatisierter Kundenservice zwar kostengünstiger sei, aber eine geringere Qualität liefere und dass Menschen wieder eingestellt werden müssten. Laut der Kolumne, aus der dieser Text stammt, wurde die Rechnung von schlecht bedienten Kunden, von inzwischen gegangenen Teams und schließlich vom Unternehmen selbst bezahlt, das wieder aufbauen musste, was es abgebaut hatte.
Software wird ein Produkt wie jedes andere
Die neue EU-Richtlinie über die Haftung für fehlerhafte Produkte gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Sie stuft Software explizit als Produkte ein, einschließlich KI. Herausgeber können als Hersteller haftbar gemacht werden, und ein Unternehmen, das ein Produkt wesentlich verändert oder in sein Verkaufsangebot integriert, kann in dieselbe Position geraten. Frankreich muss sein Zivilgesetzbuch noch anpassen, aber das Datum ist von Brüssel festgelegt.
Der Text schützt in erster Linie Geschädigte und regelt nicht alle Streitigkeiten zwischen Unternehmen. Zwischen einem Unternehmen und dem Herausgeber seiner KI gilt der Vertrag, und die Haftungsklausel für diese Werkzeuge umfasst oft nur wenige Zeilen und begrenzt in der Regel, was der Herausgeber zu zahlen verspricht. Wenn die KI bei einem Kunden einen Schaden verursacht, ist es daher gut möglich, dass das Unternehmen zahlt, während der Herausgeber nur einen kleinen Teil oder gar nichts erstattet.
Drei Fragen, bevor man einen Kunden einer KI anvertraut
Die Kolumne rät nicht vom Einsatz von KI ab, sondern dazu, vor dem Anschließen zu wissen, wer zahlt. Die erste Frage ist, wer repariert, wenn sie sich gegenüber einem Kunden irrt, und wie. Es braucht eine benannte Person, die in der Lage ist, die Kontrolle zu übernehmen, die Antwort zu korrigieren und eine kommerzielle Geste zu entscheiden, ohne auf ein Komitee zu warten. Die zweite besteht darin, nachzulesen, was der Vertrag vorsieht, dass der Herausgeber zahlt: Wenn seine Haftung auf einige Monate Abonnement beschränkt ist, bleibt das Risiko beim Unternehmen. Die dritte fragt, ob man beweisen kann, was gesagt oder getan wurde. Ohne ein Protokoll mit der genauen Antwort, der Uhrzeit und dem Kontext ist es schwer, sich zu verteidigen oder einen Fehler bewusst anzuerkennen.
