Cuando una inteligencia artificial se equivoca ante un cliente, no es la herramienta la que paga, es la empresa que la conectó. Una directiva europea debe convertir este principio en una norma a partir del 9 de diciembre de 2026, fecha en la que se aplicará a los productos comercializados o puestos en servicio.
La expresión « quien rompe paga », que ha vuelto a los debates desde los disturbios del 17 de octubre, plantea una pregunta que rara vez nos hacemos sobre la IA: cuando algo se rompe, ¿quién paga? Se presentó una propuesta de ley en la Asamblea el 13 de octubre, y el gobierno defiende su propio texto, que el Senado debe examinar a partir del 27 de octubre. Sin embargo, para las empresas, el tema de la IA se plantea en términos ya más claros de lo que se piensa.
Un chatbot no es un tercero
En febrero de 2024, un tribunal de Columbia Británica resolvió un caso entre un cliente de Air Canada, Jake Moffatt, y la compañía. Este viajero había preguntado al asistente conversacional cómo beneficiarse de una tarifa reducida para asistir al funeral de un familiar. El asistente le respondió que podría solicitar la reducción después de su viaje, lo cual era falso, y la compañía se negó a reembolsarlo.
Ante el tribunal, Air Canada argumentó que su chatbot era de alguna manera una entidad separada, responsable de sus propias respuestas. El argumento fue rechazado: el asistente es parte del sitio web de la compañía, que responde por todo lo que aparece en él. La compañía fue condenada a pagar aproximadamente 812 dólares canadienses. La suma es modesta, pero el principio no lo es: una empresa no puede derivar a su cliente hacia la herramienta que se equivocó. El que rompe es la herramienta, el que paga es quien la colocó frente al cliente.
Un daño que no siempre se ve
El daño no siempre toma la forma de un reembolso denegado. Puede ser visible, con respuestas falsas, presupuestos mal calculados o correos electrónicos enviados al destinatario equivocado. También puede ser lento, cuando se toman decisiones en nombre de la IA antes de tener pruebas. Klarna reconoció así en 2025 que su servicio de atención al cliente automatizado era más barato pero producía una calidad inferior, y que había que recontratar humanos. Según la columna de la que se extrae este texto, la factura fue pagada por los clientes mal atendidos, por los equipos que se fueron entretanto, y luego por la empresa misma, que tuvo que reconstruir lo que había deshecho.
El software se convierte en un producto como cualquier otro
La nueva directiva europea sobre la responsabilidad por productos defectuosos se aplicará a los productos comercializados o puestos en servicio después del 9 de diciembre de 2026. Clasifica explícitamente el software entre los productos, incluida la IA. Los editores pueden ser considerados fabricantes, y una empresa que modifica sustancialmente un producto, o lo integra en lo que vende, puede encontrarse en la misma posición. Francia aún debe adaptar su código civil, pero la fecha la fija Bruselas.
El texto protege primero a las víctimas de daños y no resuelve todas las disputas entre empresas. Entre una empresa y el editor de su IA, es el contrato el que prevalece, y la cláusula de responsabilidad de estas herramientas suele ocupar unas pocas líneas, limitando generalmente lo que el editor se compromete a pagar. Si la IA causa un daño a un cliente, hay muchas probabilidades de que sea la empresa la que pague, y el editor solo reembolse una pequeña parte, o nada.
Tres preguntas antes de confiar un cliente a una IA
La columna no recomienda renunciar a la IA, sino saber quién paga antes de conectarla. La primera pregunta es saber quién repara si se equivoca ante un cliente, y cómo. Debe haber una persona designada, capaz de retomar el control, corregir la respuesta y decidir un gesto comercial sin esperar a un comité. La segunda consiste en releer lo que el contrato establece que pagará el editor: si su responsabilidad se limita a unos meses de suscripción, el riesgo sigue estando en la empresa. La tercera pregunta es si se puede probar lo que se dijo o hizo. Sin un registro, con la respuesta exacta, la hora y el contexto, es difícil defenderse o reconocer un error con conocimiento de causa.
