Kiedy sztuczna inteligencja popełni błąd w kontakcie z klientem, nie narzędzie ponosi koszty, lecz firma, która je wdrożyła. Dyrektywa unijna ma uczynić z tej zasady regułę od 9 grudnia 2026 roku, kiedy zacznie obowiązywać dla produktów wprowadzanych na rynek lub oddawanych do użytku.
Wyrażenie „płacący za szkody », które powróciło do debat po wydarzeniach z 17 października, stawia pytanie rzadko zadawane w kontekście AI: gdy coś się psuje, kto płaci? Projekt ustawy został złożony w Zgromadzeniu Narodowym 13 października, a rząd broni własnego tekstu, który Senat ma rozpatrywać od 27 października. Dla firm kwestia AI jest jednak postawiona w znacznie bardziej jednoznacznych kategoriach, niż się powszechnie uważa.
Chatbot nie jest stroną trzecią
W lutym 2024 roku sąd w Kolumbii Brytyjskiej rozstrzygnął spór między klientem Air Canada, Jake’iem Moffattem, a linią lotniczą. Podróżnik ten zapytał asystenta konwersacyjnego, jak skorzystać z taryfy zniżkowej na podróż na pogrzeb bliskiej osoby. Asystent odpowiedział, że może on ubiegać się o zniżkę po podróży, co było nieprawdą, a linia lotnicza odmówiła zwrotu pieniędzy.
Przed sądem Air Canada argumentowała, że jej chatbot jest w pewnym sensie odrębnym podmiotem, odpowiedzialnym za własne odpowiedzi. Argument ten został odrzucony: asystent jest częścią strony internetowej linii lotniczej, która odpowiada za wszystko, co się na niej znajduje. Linia lotnicza została zobowiązana do zapłaty około 812 dolarów kanadyjskich. Kwota jest skromna, ale zasada już nie: firma nie może odsyłać klienta do narzędzia, które popełniło błąd. Za szkodę odpowiada narzędzie, płaci ten, kto je umieścił przed klientem.
Szkoda, której nie zawsze widać
Szkoda nie zawsze przybiera formę odmowy zwrotu pieniędzy. Może być widoczna, poprzez błędne odpowiedzi, źle wyliczone wyceny lub e-maile wysłane do niewłaściwego odbiorcy. Może też być powolna, gdy decyzje podejmowane są w imieniu AI, zanim pojawią się na to dowody. Firma Klarna przyznała w 2025 roku, że jej zautomatyzowana obsługa klienta jest tańsza, ale oferuje niższą jakość i że konieczne jest ponowne zatrudnienie ludzi. Według felietonu, z którego pochodzi ten tekst, rachunek zapłacili źle obsłużeni klienci, zespoły, które w międzyczasie odeszły, a w końcu sama firma, która musiała odbudować to, co zniszczyła.
Oprogramowanie staje się produktem jak każdy inny
Nowa dyrektywa unijna dotycząca odpowiedzialności za szkody wyrządzone przez wadliwe produkty będzie miała zastosowanie do produktów wprowadzanych na rynek lub oddawanych do użytku po 9 grudnia 2026 roku. Wyraźnie klasyfikuje ona oprogramowanie jako produkt, w tym AI. Wydawcy mogą być uznani za producentów, a firma, która znacząco modyfikuje produkt lub włącza go do tego, co sprzedaje, może znaleźć się w podobnej sytuacji. Francja musi jeszcze dostosować swój kodeks cywilny, ale termin został wyznaczony przez Brukselę.
Tekst chroni przede wszystkim ofiary szkód i nie reguluje wszystkich sporów między firmami. Między firmą a wydawcą jej AI obowiązuje umowa, a klauzula odpowiedzialności za te narzędzia często ogranicza się do kilku linijek, zazwyczaj limitując to, co wydawca zobowiązuje się zapłacić. Jeśli AI wyrządzi szkodę u klienta, istnieje więc duże prawdopodobieństwo, że zapłaci firma, a wydawca zwróci jedynie niewielką część, jeśli w ogóle.
Trzy pytania przed powierzeniem klienta AI
Felieton nie zaleca rezygnacji z AI, ale radzi, by wiedzieć, kto płaci, zanim się ją wdroży. Pierwsze pytanie dotyczy tego, kto naprawia szkodę, gdy AI popełni błąd wobec klienta i w jaki sposób. Potrzeba wyznaczonej osoby, zdolnej przejąć kontrolę, poprawić odpowiedź i zdecydować o gestach komercyjnych bez czekania na komitet. Drugie polega na przejrzeniu tego, co umowa przewiduje jako płatność od wydawcy: jeśli jego odpowiedzialność jest ograniczona do kilku miesięcy abonamentu, ryzyko pozostaje po stronie firmy. Trzecie pyta, czy można udowodnić, co zostało powiedziane lub zrobione. Bez dziennika z dokładną odpowiedzią, godziną i kontekstem trudno się bronić lub świadomie przyznać do błędu.
