L’11 novembre 2022 l’assistente automatico del sito di Air Canada disse a Jake Moffatt che poteva chiedere la tariffa luttuosa entro 90 giorni dall’emissione del biglietto. Non era vero, e la pagina ufficiale linkata nella stessa risposta diceva l’opposto. Il Civil Resolution Tribunal della British Columbia ha condannato la compagnia a 812,02 dollari canadesi per falsa dichiarazione colposa, respingendo la tesi secondo cui il bot sarebbe responsabile di sé stesso.
L’11 novembre 2022, il giorno in cui gli era morta la nonna, Jake Moffatt apre il sito di Air Canada e fa una domanda a una finestra di chat. È un assistente conversazionale automatico: un software che interpreta la domanda scritta in linguaggio naturale e restituisce una risposta pescando dalle informazioni commerciali della compagnia — politiche tariffarie, procedure di rimborso, regole di viaggio. Non vende biglietti, non apre pratiche: produce testo, e quel testo il cliente lo legge come se glielo dicesse un addetto. È esattamente questo il punto su cui, quindici mesi dopo, si è giocata la causa.
La risposta che Moffatt riceve riguarda le tariffe luttuose, lo sconto che Air Canada applica a chi viaggia per un lutto familiare. Il bot gli dice che chi ha già viaggiato può chiedere la riduzione entro 90 giorni dalla data di emissione del biglietto, compilando il modulo di rimborso. Nella stessa risposta, le parole “bereavement fares” erano un collegamento alla pagina ufficiale della compagnia. Quella pagina diceva il contrario: la politica non si applica alle richieste presentate dopo il viaggio. Due parti dello stesso sito, due informazioni incompatibili. Qui non serve stabilire quanto fosse sofisticata l’intelligenza artificiale dietro la finestra di chat — torneremo su questo, ed è meno scontato di come lo si racconta di solito — perché il problema che il tribunale ha dovuto risolvere è un altro, ed è molto più antico del machine learning.
Cosa è successo davvero, in ordine
Moffatt compra i voli: Vancouver-Toronto a 794,98 dollari canadesi, Toronto-Vancouver a 845,38. Totale 1.630,36 dollari canadesi. Il 17 novembre 2022 presenta la prima richiesta di rimborso parziale. Segue uno scambio che va avanti per mesi, finché l’8 febbraio 2023 un addetto della compagnia mette per iscritto che il chatbot aveva usato “misleading words”, parole fuorvianti. Ammissione notevole, che però non si traduce in un rimborso: ad Air Canada viene offerto un coupon da 200 dollari come gesto di cortesia. Moffatt non lo accetta e porta il caso davanti al Civil Resolution Tribunal della British Columbia.
Vale la pena spiegare cos’è questo organo, perché nella copertura internazionale è stato quasi sempre chiamato “tribunale” o addirittura “corte” senza ulteriori precisazioni. Il CRT è un organo amministrativo canadese che lavora essenzialmente online, competente per le piccole cause fino a 5.000 dollari. Per questa categoria di controversie una parte può presentare un notice of objection entro 28 giorni: la decisione perde efficacia vincolante e la vicenda può riaprirsi davanti alla Provincial Court. Non è, insomma, una sentenza di un tribunale ordinario, e non costituisce un precedente vincolante nel senso in cui lo intendono i giuristi di common law.
La decisione — Moffatt v. Air Canada, 2024 BCCRT 149, fascicolo SC-2023-005609 — arriva il 14 febbraio 2024, firmata dal membro decidente Christopher C. Rivers. L’esito: 650,88 dollari canadesi di danni, 36,14 di interessi, 125 di spese. Totale 812,02 dollari canadesi, da pagare entro quattordici giorni. Il coupon da 200 dollari non è stato scomputato perché Moffatt non lo aveva mai accettato.
La frase che ha fatto il giro del mondo
In giudizio Air Canada ha sostenuto di non poter rispondere delle informazioni fornite dai propri “agenti”, il chatbot incluso. Rivers riassume la posizione della compagnia come il suggerimento che il chatbot sarebbe “un’entità giuridica separata responsabile delle proprie azioni” e la definisce a remarkable submission, una tesi notevole. Il ragionamento che segue è disarmante nella sua semplicità:
Il chatbot è comunque solo una parte del sito di Air Canada. Non fa differenza se l’informazione arriva da una pagina statica o dal bot: non si può pretendere che il cliente verifichi una parte del sito confrontandola con un’altra.
La base giuridica non è una norma sull’intelligenza artificiale — in Canada non ce n’erano di applicabili al caso — ma la negligent misrepresentation, la falsa dichiarazione colposa, con i cinque requisiti fissati dalla Corte suprema canadese in Queen v. Cognos Inc. del 1993. La misura del danno segue Ban v. Keleher, 2017. Il valore di riferimento di 380 dollari a tratta, da cui discende il differenziale liquidato, non viene dal bot: Moffatt lo aveva sentito da un operatore telefonico, e il tribunale lo ha assunto come valore di mercato per inferenza avversa, visto che Air Canada non ha prodotto prove contrarie. La compagnia aveva anche opposto una difesa contrattuale fondata sul proprio Domestic Tariff, ma non ha depositato il testo del tariffario: difesa caduta.
Qui sta il primo fallimento, ed è un fallimento legale prima che tecnologico. Una parte che si presenta senza il contratto su cui fonda la propria difesa e senza prove sul prezzo di mercato ha perso la causa per ragioni che non hanno nulla a che vedere con il software.
Tre cose che il caso non dice, e che vengono raccontate lo stesso
- Il bot non ha inventato un prezzo. Lo sconto luttuoso esisteva davvero. Il sistema ha inventato una procedura: la possibilità di chiederlo a posteriori. È una differenza sostanziale, perché un errore sulle condizioni di accesso a un servizio è molto più difficile da intercettare con i controlli automatici di un errore su una cifra.
- Nessuno ha ordinato ad Air Canada di onorare quanto promesso dal bot. Il CRT ha liquidato un risarcimento differenziale per falsa dichiarazione, che è un’altra cosa: non ha trasformato la risposta del chatbot in un’obbligazione contrattuale.
- Non sappiamo se fosse un modello generativo. La decisione dice espressamente che Air Canada non ha fornito alcuna informazione sulla natura del proprio chatbot. Un portavoce della compagnia ha poi dichiarato alla stampa specializzata che lo strumento era stato sviluppato prima dell’arrivo delle capacità di intelligenza artificiale generativa. L’etichetta “allucinazione” che si legge ovunque è un’aggiunta giornalistica, non un fatto accertato in atti.
L’ultimo punto è il più interessante, e rovescia la morale che quasi tutti hanno tratto dal caso. Se il sistema non era un modello linguistico generativo, allora il guasto non è l’imprevedibilità statistica dei nuovi modelli: è un errore di contenuto in un sistema automatico di risposta, cioè qualcosa che le aziende potevano produrre — e producevano — già prima del 2022. Il caso Moffatt non dimostra che l’intelligenza artificiale generativa sia pericolosa per il servizio clienti. Dimostra che un’azienda può mettere online un sistema che parla ai clienti senza avere un processo che verifichi se quello che dice coincide con le proprie politiche pubblicate. La presenza del link alla pagina corretta, dentro la risposta sbagliata, è la prova che i due contenuti erano nello stesso perimetro e non comunicavano.
Perché viene citato, e come
La decisione ha avuto una risonanza sproporzionata rispetto alla sua portata giuridica: il Washington Post ne scrive il 18 febbraio 2024, la BBC il 23. Da allora è diventata il riferimento quasi obbligato della letteratura sulla responsabilità per gli output dei sistemi conversazionali — compare, tra gli altri, in un case comment pubblicato sulla UBC Law Review nel 2025. Circolano altre ricostruzioni, dalla rimozione del chatbot dal sito ai presunti costi del progetto, che nelle fonti verificabili non trovano conferma.
Il motivo per cui 812 dollari canadesi pesano più di quanto valgono è che la tesi respinta da Rivers non era un’invenzione di un avvocato distratto. Era, in forma esplicita, la domanda che ogni azienda che dispiega un assistente automatico si porta dietro implicitamente: se il sistema sbaglia, chi risponde? La risposta del CRT è che la domanda è mal posta, perché presuppone una separazione che non esiste. Un modello conversazionale non è un interlocutore: è un canale, come lo è una pagina HTML o un call center. Chi lo accende sta pubblicando, e di quello che pubblica risponde.
Ne discende una conseguenza operativa che nel dibattito si cita poco. Una pagina statica, quando cambia la politica aziendale, si riscrive una volta sola. Un sistema automatico di risposta genera un numero indefinito di formulazioni diverse della stessa politica, ciascuna delle quali può staccarsi dall’originale in un punto solo — un “entro 90 giorni” aggiunto dove non c’era. Il costo di questa differenza non è il costo del modello: è il costo del presidio editoriale che serve a tenerlo allineato, e che nel bilancio di nessun progetto di automazione del servizio clienti compare come voce separata.