Quando uma inteligência artificial se engana perante um cliente, não é a ferramenta que paga, é a empresa que a ligou. Uma diretiva europeia deve tornar este princípio uma regra a partir de 9 de dezembro de 2026, data em que se aplicará aos produtos colocados no mercado ou postos em serviço.
A expressão «quem parte, paga», que voltou aos debates após as violências de 17 de outubro, coloca uma questão que raramente se coloca sobre a IA: quando algo parte, quem paga? Uma proposta de lei foi apresentada na Assembleia a 13 de outubro, e o governo defende o seu próprio texto, que o Senado deve examinar a partir de 27 de outubro. Para as empresas, porém, o tema da IA coloca-se em termos já mais definidos do que se pensa.
Um chatbot não é um terceiro
Em fevereiro de 2024, um tribunal da Colúmbia Britânica decidiu uma questão que opunha o cliente da Air Canada, Jake Moffatt, à companhia. Este viajante tinha perguntado ao assistente conversacional como beneficiar de uma tarifa reduzida para assistir ao funeral de um familiar. O assistente respondeu-lhe que poderia pedir o desconto após a viagem, o que era falso, e a companhia recusou reembolsá-lo.
Perante o tribunal, a Air Canada defendeu que o seu chatbot era, de certa forma, uma entidade distinta, responsável pelas suas próprias respostas. O argumento foi rejeitado: o assistente faz parte do site da companhia, que responde por tudo o que lá figura. A companhia foi condenada a pagar cerca de 812 dólares canadenses. O valor é modesto, mas o princípio não o é: uma empresa não pode remeter o seu cliente para a ferramenta que se enganou. Quem parte é a ferramenta, quem paga é quem a colocou perante o cliente.
Um estrago que nem sempre se vê
O estrago nem sempre assume a forma de um reembolso recusado. Pode ser visível, com respostas falsas, orçamentos mal calculados ou emails enviados ao destinatário errado. Também pode ser lento, quando decisões são tomadas em nome da IA antes de haver prova disso. A Klarna reconheceu em 2025 que o seu serviço de apoio ao cliente automatizado era mais barato mas produzia uma qualidade inferior, e que era necessário recontratar pessoas. De acordo com a crónica de onde este texto é retirado, a fatura foi paga pelos clientes mal servidos, pelas equipas que entretanto saíram, e depois pela própria empresa, que teve de reconstruir o que tinha desfeito.
O software torna-se um produto como outro qualquer
A nova diretiva europeia sobre a responsabilidade por produtos defeituosos aplica-se aos produtos colocados no mercado ou postos em serviço após 9 de dezembro de 2026. Inclui explicitamente os softwares entre os produtos, IA incluída. Os editores podem ser considerados fabricantes, e uma empresa que modifique substancialmente um produto, ou o integre no que vende, pode encontrar-se na mesma posição. A França ainda tem de adaptar o seu código civil, mas a data está fixada por Bruxelas.
O texto protege primeiro as vítimas de danos e não resolve todas as disputas entre empresas. Entre uma empresa e o editor da sua IA, é o contrato que prevalece, e a cláusula de responsabilidade destas ferramentas ocupa frequentemente poucas linhas, limitando geralmente o que o editor se compromete a pagar. Se a IA causar um dano a um cliente, há portanto boas probabilidades de ser a empresa a pagar, com o editor a reembolsar apenas uma pequena parte, ou mesmo nada.
Três questões antes de confiar um cliente a uma IA
A crónica não recomenda renunciar à IA, mas saber quem paga antes de a ligar. A primeira questão é saber quem repara se ela se enganar perante um cliente, e como. É necessária uma pessoa designada, capaz de retomar o controlo, corrigir a resposta e decidir um gesto comercial sem esperar por um comité. A segunda consiste em reler o que o contrato prevê que o editor pagará: se a sua responsabilidade estiver limitada a alguns meses de subscrição, o risco mantém-se na empresa. A terceira pergunta se se pode provar o que foi dito ou feito. Sem um registo, com a resposta exata, a hora e o contexto, é difícil defender-se ou reconhecer um erro com conhecimento de causa.
