Quando un’intelligenza artificiale sbaglia con un cliente, non è lo strumento a pagare, ma l’azienda che l’ha attivato. Una direttiva europea deve rendere questo principio una regola a partire dal 9 dicembre 2026, data in cui si applicherà ai prodotti immessi sul mercato o messi in servizio.
- Quando un’IA sbaglia con un cliente, paga l’azienda che l’ha attivata.
- Una direttiva europea farà di questo principio una regola dal 9 dicembre 2026.
- Il software, IA inclusa, diventerà un prodotto come un altro.
- Prima di attivare un’IA, l’azienda deve designare un responsabile e conservare un registro delle risposte.
L’espressione « chi rompe paga », tornata nei dibattiti dopo le violenze del 17 ottobre, pone una domanda che ci si fa raramente a proposito dell’IA: quando qualcosa si rompe, chi paga? Una proposta di legge è stata depositata all’Assemblea il 13 ottobre, e il governo difende il proprio testo, che il Senato deve esaminare a partire dal 27 ottobre. Per le aziende, però, il tema dell’IA si pone già in termini più netti di quanto si pensi.
Un chatbot non è un terzo
Nel febbraio 2024, un tribunale della Columbia Britannica ha risolto una controversia tra il cliente di Air Canada, Jake Moffatt, e la compagnia. Questo viaggiatore aveva chiesto all’assistente conversazionale come beneficiare di una tariffa ridotta per recarsi al funerale di una persona cara. L’assistente gli aveva risposto che avrebbe potuto richiedere la riduzione dopo il viaggio, il che era falso, e la compagnia ha rifiutato di rimborsarlo.
Davanti al tribunale, Air Canada ha sostenuto che il suo chatbot fosse in qualche modo un’entità distinta, responsabile delle proprie risposte. L’argomento è stato respinto: l’assistente fa parte del sito della compagnia, che risponde di tutto ciò che vi figura. La compagnia è stata condannata a versare circa 812 dollari canadesi. La somma è modesta, ma il principio non lo è: un’azienda non può rimandare il proprio cliente allo strumento che ha sbagliato. Chi rompe è lo strumento, chi paga è chi lo ha posto davanti al cliente.
Un danno che non si vede sempre
Il danno non assume sempre la forma di un rimborso rifiutato. Può essere visibile, con risposte false, preventivi calcolati male o email inviate al destinatario sbagliato. Può anche essere lento, quando le decisioni vengono prese in nome dell’IA prima di averne la prova. Klarna ha così riconosciuto nel 2025 che il suo servizio clienti automatizzato costava meno ma produceva una qualità inferiore, e che bisognava riassumere personale umano. Secondo la cronaca da cui è tratto questo testo, il conto è stato pagato dai clienti mal serviti, dai team partiti nel frattempo, e poi dall’azienda stessa, che ha dovuto ricostruire ciò che aveva smantellato.
Il software diventa un prodotto come un altro
La nuova direttiva europea sulla responsabilità per prodotti difettosi si applicherà ai prodotti immessi sul mercato o messi in servizio dopo il 9 dicembre 2026. Inserisce esplicitamente i software tra i prodotti, IA inclusa. Gli editori possono essere considerati come produttori, e un’azienda che modifica sostanzialmente un prodotto, o lo integra in ciò che vende, può ritrovarsi nella stessa posizione. La Francia deve ancora adattare il suo codice civile, ma la data è fissata da Bruxelles.
Il testo protegge innanzitutto le vittime di danni e non regola tutte le controversie tra aziende. Tra un’azienda e l’editore della sua IA, è il contratto che fa fede, e la clausola di responsabilità di questi strumenti spesso si limita a poche righe, limitando generalmente ciò che l’editore si impegna a pagare. Se l’IA causa un danno a un cliente, ci sono quindi buone probabilità che sia l’azienda a pagare, con l’editore che rimborsa solo una piccola parte, se non nulla.
Tre domande prima di affidare un cliente a un’IA
La cronaca non raccomanda di rinunciare all’IA, ma di sapere chi paga prima di attivarla. La prima domanda è sapere chi ripara se sbaglia con un cliente, e come. Serve una persona designata, capace di riprendere il controllo, correggere la risposta e decidere un gesto commerciale senza aspettare un comitato. La seconda consiste nel rileggere ciò che il contratto prevede che l’editore pagherà: se la sua responsabilità è limitata a qualche mese di abbonamento, il rischio rimane in azienda. La terza chiede se si può provare ciò che è stato detto o fatto. Senza un registro, con la risposta esatta, l’ora e il contesto, è difficile difendersi o riconoscere un errore a ragion veduta.
