Un cliente chiede informazioni sul sito di un’azienda. Il chatbot risponde con sicurezza, il cliente si fida e prende una decisione. Poi scopre che quelle indicazioni erano sbagliate.
Il caso Air Canada rende concreto un problema che riguarda anche imprese molto più piccole: chi controlla ciò che un assistente automatico comunica ai clienti?
Nel novembre 2022, Jake Moffatt consultò il chatbot di Air Canada per informarsi sulle tariffe agevolate previste in caso di lutto. Il chatbot indicò che avrebbe potuto richiedere l’agevolazione dopo aver viaggiato. La pagina della compagnia dedicata alla stessa politica escludeva invece questa possibilità.
Air Canada respinse la richiesta. Moffatt si rivolse al Civil Resolution Tribunal della Columbia Britannica.
Nella decisione Moffatt v Air Canada, 2024 BCCRT 149, il tribunale ritenne la compagnia responsabile per le informazioni inesatte fornite e per il danno derivante dal ragionevole affidamento del cliente. Non considerò sufficiente che altrove sul sito fosse presente la versione corretta. Il totale riconosciuto, comprensivo di interessi e spese, fu di 812,02 dollari canadesi. Ricostruzione della decisione.
È una decisione canadese relativa a una controversia specifica: non permette di prevedere automaticamente l’esito di un caso italiano.
Offre però una lezione organizzativa molto chiara. Se un’azienda mette a disposizione un canale di assistenza, deve progettare anche il modo in cui quel canale viene controllato.
Per applicare questa lezione non occorre sapere se il chatbot impiegasse un particolare modello linguistico. Occorre chiedersi se le sue risposte fossero coerenti con le condizioni effettivamente applicate ai clienti.
1. Definire le fonti autorizzate.
Prezzi, rimborsi, scadenze e condizioni commerciali devono avere documenti di riferimento identificabili, aggiornati e con un responsabile.
2. Stabilire ciò che il chatbot può confermare.
Fornire informazioni generali e autorizzare un’eccezione commerciale sono attività diverse. Il sistema deve avere limiti espliciti.
3. Prevedere il passaggio a una persona.
Quando le fonti sono incomplete, contraddittorie o non coprono il caso, l’assistente deve poter sospendere la risposta e indirizzare la richiesta a un operatore.
4. Provare anche le domande difficili.
Il collaudo dovrebbe includere richieste ambigue, condizioni scadute e situazioni eccezionali. Una dimostrazione riuscita non basta per valutare l’affidabilità del servizio.
5. Assegnare la gestione degli errori.
Chi riceve una segnalazione? Chi corregge la fonte? Chi verifica che il problema sia risolto? Questi passaggi devono essere chiari prima dell’avvio.
Immaginiamo un chatbot che risponda sui resi di un negozio online. Un cliente chiede se può restituire un prodotto personalizzato.
Se la documentazione disponibile non chiarisce il caso, una risposta utile potrebbe essere:
“Le condizioni che posso consultare non mi permettono di confermare il reso di un prodotto personalizzato. Ti indirizzo all’assistenza per verificare il tuo ordine.”
Per progettare risposte di questo tipo servono istruzioni, fonti e persone preparate a gestire le eccezioni.
Individua tre domande alle quali una risposta sbagliata potrebbe creare un costo o una contestazione. Verifica quali risposte forniscono oggi sito, assistenza e strumenti automatici.
Se vuoi approfondire, leggi anche gli errori più comuni nell’uso professionale dell’AI.
Vuoi preparare il tuo team a usare l’AI nei processi aziendali? Scopri la formazione Tech-Etica oppure raccontaci quale attività vorresti automatizzare.
Articoli correlati
L’integrazione dell’intelligenza artificiale nei processi produttivi genera spesso il timore di una progressiva sostituzione dell’essere umano. Tuttavia, i dati delineano uno scenario diverso: circa un
Sempre più spesso, durante le riunioni strategiche o di aggiornamento aziendale, emergono sigle come LLM, RAG o prompt. Non si tratta più di un linguaggio
Aprire ChatGPT per farsi aiutare a scrivere una mail complessa, riassumere un lungo report o correggere una porzione di codice è diventata un’abitudine quotidiana per
Il rischio di estinzione da intelligenza artificiale è tornato al centro del discorso pubblico. Questa volta con una firma precisa: il 9 settembre un ricercatore
Il Regolamento europeo sull’Intelligenza Artificiale, noto come AI Act, rappresenta il primo quadro normativo organico dell’Unione europea pensato per disciplinare lo sviluppo e l’impiego delle
Sapere quando interrompere un’iniziativa di intelligenza artificiale è uno dei test più severi per la governance aziendale. Nella narrazione dominante sull’innovazione tecnologica, l’abbandono di un’iniziativa
