Quand une intelligence artificielle se trompe face à un client, ce n’est pas l’outil qui paie, c’est l’entreprise qui l’a branchée. Une directive européenne doit faire de ce principe une règle à partir du 9 décembre 2026, date à laquelle elle s’appliquera aux produits mis sur le marché ou mis en service.
- Une IA qui se trompe face à un client engage la responsabilité de l’entreprise qui l’utilise.
- Une directive européenne applique ce principe dès le 9 décembre 2026 et traite les logiciels comme des produits.
- Le contrat avec l’éditeur limite souvent sa responsabilité, donc l’entreprise paie généralement l’essentiel.
- Avant de déployer une IA, l’entreprise doit désigner un responsable, relire le contrat et conserver un journal des échanges.
L’expression « casseur-payeur », revenue dans les débats depuis les violences du 17 octobre, pose une question que l’on se pose rarement à propos de l’IA : quand quelque chose casse, qui paie ? Une proposition de loi a été déposée à l’Assemblée le 13 octobre, et le gouvernement défend son propre texte, que le Sénat doit examiner à partir du 27 octobre. Pour les entreprises, le sujet de l’IA se pose pourtant dans des termes déjà plus tranchés qu’on ne le pense.
Un chatbot n’est pas un tiers
En février 2024, un tribunal de Colombie-Britannique a tranché une affaire opposant le client d’Air Canada, Jake Moffatt, à la compagnie. Ce voyageur avait demandé à l’assistant conversationnel comment bénéficier d’un tarif réduit pour se rendre aux obsèques d’un proche. L’assistant lui avait répondu qu’il pourrait demander la réduction après son voyage, ce qui était faux, et la compagnie a refusé de le rembourser.
Devant le tribunal, Air Canada a soutenu que son chatbot était en quelque sorte une entité distincte, responsable de ses propres réponses. L’argument a été rejeté : l’assistant fait partie du site de la compagnie, qui répond de tout ce qui y figure. La compagnie a été condamnée à verser environ 812 dollars canadiens. La somme est modeste, mais le principe ne l’est pas : une entreprise ne peut pas renvoyer son client vers l’outil qui s’est trompé. Le casseur est l’outil, le payeur est celui qui l’a placé devant le client.
Une casse qui ne se voit pas toujours
La casse ne prend pas toujours la forme d’un remboursement refusé. Elle peut être visible, avec des réponses fausses, des devis mal calculés ou des courriels envoyés au mauvais destinataire. Elle peut aussi être lente, lorsque des décisions sont prises au nom de l’IA avant qu’on en ait la preuve. Klarna a ainsi reconnu en 2025 que son service client automatisé coûtait moins cher mais produisait une qualité inférieure, et qu’il fallait réembaucher des humains. Selon la chronique dont est tiré ce texte, la facture a été payée par les clients mal servis, par les équipes parties entre-temps, puis par l’entreprise elle-même, qui a dû reconstruire ce qu’elle avait défait.
Le logiciel devient un produit comme un autre
La nouvelle directive européenne sur la responsabilité du fait des produits défectueux s’appliquera aux produits mis sur le marché ou mis en service après le 9 décembre 2026. Elle range explicitement les logiciels parmi les produits, IA comprise. Les éditeurs peuvent être tenus pour des fabricants, et une entreprise qui modifie substantiellement un produit, ou l’intègre dans ce qu’elle vend, peut se retrouver dans la même position. La France doit encore adapter son code civil, mais la date est fixée par Bruxelles.
Le texte protège d’abord les victimes de dommages et ne règle pas tous les différends entre entreprises. Entre une entreprise et l’éditeur de son IA, c’est le contrat qui fait foi, et la clause de responsabilité de ces outils tient souvent en quelques lignes, en limitant généralement ce que l’éditeur s’engage à payer. Si l’IA cause un dommage chez un client, il y a donc de bonnes chances que ce soit l’entreprise qui paie, l’éditeur ne remboursant qu’une petite partie, voire rien.
Trois questions avant de confier un client à une IA
La chronique ne recommande pas de renoncer à l’IA, mais de savoir qui paie avant de la brancher. La première question est de savoir qui répare si elle se trompe face à un client, et comment. Il faut une personne nommée, capable de reprendre la main, de corriger la réponse et de décider d’un geste commercial sans attendre un comité. La deuxième consiste à relire ce que le contrat prévoit que l’éditeur paiera : si sa responsabilité est limitée à quelques mois d’abonnement, le risque reste chez l’entreprise. La troisième demande si l’on peut prouver ce qui a été dit ou fait. Sans journal, avec la réponse exacte, l’heure et le contexte, il est difficile de se défendre ou de reconnaître une erreur en connaissance de cause.
