Quando sbaglia il chatbot, chi risponde? Il caso Air Canada

Il Caso

Nel novembre 2022 Jake Moffatt deve acquistare un volo da Vancouver a Toronto dopo la morte della nonna. Sul sito di Air Canada chiede al chatbot della compagnia informazioni sulle tariffe agevolate previste in caso di lutto. Il chatbot gli comunica che può acquistare normalmente il biglietto e chiedere successivamente, entro 90 giorni, l’applicazione retroattiva della tariffa ridotta. Moffatt segue l’indicazione e acquista i biglietti.

L’informazione è però sbagliata. La politica ufficiale di Air Canada, disponibile in un’altra pagina dello stesso sito, stabilisce che l’agevolazione non può essere richiesta dopo che il viaggio è stato effettuato. Quando Moffatt presenta la domanda di rimborso parziale, la compagnia la respinge. Dopo alcuni mesi di comunicazioni senza soluzione, il cliente porta la controversia davanti al Civil Resolution Tribunal della British Columbia. Canada Commons

Air Canada riconosce che il chatbot ha fornito un’informazione errata, ma sostiene che sul proprio sito era disponibile anche l’informazione corretta e che il cliente avrebbe dovuto verificarla. Nel febbraio 2024 il Tribunal dà ragione a Moffatt: considera ragionevole che un cliente faccia affidamento sulle informazioni fornite dal chatbot presente sul sito della compagnia e stabilisce che Air Canada è responsabile dell’accuratezza delle informazioni pubblicate, indipendentemente dal fatto che siano contenute in una pagina tradizionale o prodotte da un chatbot. La compagnia viene condannata a risarcire il cliente. Associazione degli Avvocati Americani

Documentazione: Decisione Moffatt v. Air Canada, 2024 BCCRT 149 · Sintesi e analisi della decisione dell’American Bar Association

I punti di vista

Il cliente

Moffatt sostiene di essersi affidato all’informazione ricevuta attraverso un servizio che Air Canada aveva collocato sul proprio sito proprio per rispondere alle domande dei clienti. Dopo aver seguito le istruzioni del chatbot, acquista i biglietti a prezzo pieno contando sulla possibilità di ottenere successivamente la tariffa agevolata.

Quando Air Canada gli oppone la propria politica ufficiale, Moffatt sostiene che non spettasse a lui stabilire quale delle diverse informazioni presenti sul sito fosse quella corretta. Il fatto che il chatbot rimandasse anche a una pagina contenente condizioni differenti non modifica, nella sua prospettiva, la ragionevolezza dell’affidamento sulla risposta ricevuta direttamente. Il problema non è quindi soltanto che la macchina abbia sbagliato, ma che una persona abbia agito sulla base dell’informazione prodotta da uno strumento messo a disposizione dall’organizzazione. Deeth Williams Wall

Per approfondire: La vicenda e le argomentazioni del cliente

Air Canada

Air Canada non contesta che il chatbot abbia fornito un’informazione inesatta. Sostiene però che la pagina dedicata alle tariffe per lutto conteneva la politica corretta e che Moffatt avrebbe potuto consultarla prima di acquistare i biglietti.

Nella decisione, il Tribunal interpreta inoltre la difesa della compagnia come se attribuisse al chatbot una responsabilità distinta per le informazioni da esso prodotte. Il giudice amministrativo respinge questa impostazione: il chatbot è una componente del sito di Air Canada e la compagnia non può distinguere, rispetto alla propria responsabilità verso il cliente, fra informazioni pubblicate direttamente e informazioni generate attraverso uno strumento automatizzato. CityNews Toronto

Per approfondire: Le argomentazioni di Air Canada nella decisione del Tribunal

Il Civil Resolution Tribunal

Il Tribunal affronta il caso come una controversia relativa a un’informazione negligentemente inesatta. Air Canada, in quanto fornitore del servizio, aveva il dovere di adottare una ragionevole attenzione affinché le informazioni offerte ai clienti fossero corrette. Secondo la decisione, non è ragionevole pretendere che un cliente sappia che una parte del sito sia affidabile mentre un’altra non lo è.

Il Tribunal non attribuisce quindi intenzioni, responsabilità o autonomia giuridica al chatbot. Riporta la responsabilità all’organizzazione che ha scelto di utilizzare quello strumento e lo ha inserito nel proprio servizio. Stabilisce inoltre che Air Canada non ha dimostrato di avere adottato ragionevoli misure per assicurare l’accuratezza delle risposte del chatbot. La compagnia viene condannata a pagare 650,88 dollari canadesi di danni, oltre a interessi e spese, per complessivi 812,02 dollari. Canada Commons

Per approfondire: Decisione del Civil Resolution Tribunal

Gli esperti di responsabilità nell’uso dell’IA

I commentatori giuridici che hanno analizzato la decisione ne sottolineano una conseguenza che va oltre il modesto valore economico della controversia: l’introduzione di un sistema automatizzato non elimina la responsabilità dell’organizzazione che lo utilizza. L’American Bar Association osserva che il chatbot rimane parte del sito aziendale e che l’impresa continua a essere responsabile delle informazioni fornite attraverso di esso. Associazione degli Avvocati Americani

Altri studiosi utilizzano il caso per discutere il cosiddetto responsibility gap: la tendenza a creare una distanza fra l’azione prodotta dal sistema e il soggetto umano o organizzativo che lo ha adottato. Nel caso Air Canada questa distanza viene respinta sul piano giuridico: l’errore può essere prodotto dalla macchina, ma ciò non rende la macchina il soggetto al quale trasferire la responsabilità delle conseguenze. DOI

Per approfondire: Analisi dell’American Bar Association · Analisi del caso in AI & Society