Wanneer een kunstmatige intelligentie een fout maakt tegenover een klant, betaalt niet de tool, maar het bedrijf dat hem heeft aangesloten. Een Europese richtlijn moet dit principe vanaf 9 december 2026 tot een regel maken, de datum waarop deze van toepassing wordt op producten die op de markt worden gebracht of in gebruik worden genomen.
De uitdrukking ‘de vervuiler betaalt’, die sinds de rellen van 17 oktober weer opdook in de debatten, stelt een vraag die men zich zelden stelt over AI: wanneer iets kapotgaat, wie betaalt dan? Een wetsvoorstel werd op 13 oktober ingediend in de Assemblée, en de regering verdedigt haar eigen tekst, die de Senaat vanaf 27 oktober moet behandelen. Voor bedrijven stelt het onderwerp AI zich echter in termen die al scherper zijn dan men denkt.
Een chatbot is geen derde partij
In februari 2024 oordeelde een rechtbank in Brits-Columbia in een zaak tussen een klant van Air Canada, Jake Moffatt, en de luchtvaartmaatschappij. Deze reiziger had aan de chatbot gevraagd hoe hij kon profiteren van een gereduceerd tarief om naar een begrafenis van een familielid te reizen. De assistent had geantwoord dat hij de korting na zijn reis kon aanvragen, wat onjuist was, en de maatschappij weigerde hem terug te betalen.
Voor de rechtbank voerde Air Canada aan dat haar chatbot een soort aparte entiteit was, verantwoordelijk voor zijn eigen antwoorden. Het argument werd verworpen: de assistent maakt deel uit van de website van de maatschappij, die verantwoordelijk is voor alles wat daarop staat. De maatschappij werd veroordeeld tot betaling van ongeveer 812 Canadese dollar. Het bedrag is bescheiden, maar het principe niet: een bedrijf kan een klant niet doorverwijzen naar de tool die een fout maakte. De ‘breker’ is de tool, de betaler is degene die hem voor de klant heeft geplaatst.
Schade die niet altijd zichtbaar is
De schade neemt niet altijd de vorm aan van een geweigerde terugbetaling. Ze kan zichtbaar zijn, met foute antwoorden, verkeerd berekende offertes of e-mails die naar de verkeerde geadresseerde worden gestuurd. Ze kan ook sluipend zijn, wanneer beslissingen in naam van de AI worden genomen voordat daar bewijs voor is. Klarna gaf in 2025 toe dat haar geautomatiseerde klantenservice goedkoper was maar een lagere kwaliteit opleverde, en dat er mensen opnieuw moesten worden aangenomen. Volgens de column waaruit deze tekst komt, werd de rekening betaald door de slecht bediende klanten, door de tussentijds vertrokken medewerkers, en vervolgens door het bedrijf zelf, dat moest herbouwen wat het had afgebroken.
Software wordt een product als een ander
De nieuwe Europese richtlijn over aansprakelijkheid voor gebrekkige producten is van toepassing op producten die na 9 december 2026 op de markt worden gebracht of in gebruik worden genomen. Ze rangschikt software expliciet onder de producten, AI inbegrepen. Uitgevers kunnen als fabrikanten worden aangemerkt, en een bedrijf dat een product substantieel wijzigt, of het integreert in wat het verkoopt, kan in dezelfde positie terechtkomen. Frankrijk moet haar burgerlijk wetboek nog aanpassen, maar de datum is vastgelegd door Brussel.
De tekst beschermt in de eerste plaats slachtoffers van schade en regelt niet alle geschillen tussen bedrijven. Tussen een bedrijf en de uitgever van zijn AI is het contract leidend, en de aansprakelijkheidsclausule voor deze tools beslaat vaak slechts enkele regels, waarbij meestal wordt beperkt wat de uitgever zich verbindt te betalen. Als de AI bij een klant schade veroorzaakt, is de kans dus groot dat het bedrijf betaalt, waarbij de uitgever slechts een klein deel terugbetaalt, of zelfs niets.
Drie vragen voordat je een klant aan een AI toevertrouwt
De column raadt niet aan af te zien van AI, maar wel om te weten wie betaalt voordat je hem aansluit. De eerste vraag is wie repareert als hij een fout maakt tegenover een klant, en hoe. Er moet een aangewezen persoon zijn, die de controle kan overnemen, het antwoord kan corrigeren en een commerciële geste kan beslissen zonder op een comité te wachten. De tweede bestaat uit het nalezen wat het contract bepaalt dat de uitgever zal betalen: als zijn aansprakelijkheid beperkt is tot enkele maanden abonnement, blijft het risico bij het bedrijf. De derde vraagt of je kunt bewijzen wat er is gezegd of gedaan. Zonder een log, met het exacte antwoord, het tijdstip en de context, is het moeilijk je te verdedigen of een fout bewust toe te geven.
