Allucinazioni AI: cos’è, perché succede e come proteggersi

Nel giugno 2023, l’avvocato americano Steven Schwartz ha depositato in tribunale una memoria legale con sei casi giurisprudenziali a supporto della sua tesi. Tutti e sei i casi erano falsi.

Li aveva generati ChatGPT. E ChatGPT li aveva presentati con la stessa sicurezza con cui avrebbe descritto un fatto reale.

Quando il giudice ha scoperto l’inganno, Schwartz ha dichiarato di non sapere che un sistema AI potesse “inventare” casi giudiziari. Il tribunale lo ha multato. La sua reputazione professionale ne è uscita danneggiata.

Quello che Schwartz non sapeva ha un nome preciso: allucinazione.

Cos’è un’allucinazione AI

Un’allucinazione AI è una risposta falsa o inesatta prodotta da un modello di linguaggio (LLM) con un tono sicuro e autorevole. Il modello non “sa” di sbagliare: non è progettato per distinguere tra ciò che è vero e ciò che suona plausibile. È progettato per generare testo statisticamente coerente con le sue istruzioni di addestramento.

In termini tecnici: gli LLM producono output prevedendo, parola per parola, la sequenza più probabile dato il contesto. Quando non hanno dati sufficienti su un argomento specifico, “completano” la risposta con ciò che è statisticamente plausibile. Il risultato può sembrare corretto ma non esserlo.

Nessun LLM è immune dalle allucinazioni. ChatGPT, Gemini, Claude, Copilot e Perplexity le producono tutte, con frequenze e contesti diversi.

Perché le allucinazioni sono pericolose nel lavoro professionale

Il problema non è l’errore in sé. Gli errori si fanno, si correggono, si impara. Il problema è la forma dell’errore.

Un’allucinazione AI ha tre caratteristiche che la rendono pericolosa:

È presentata con tono sicuro: non ci sono segnali linguistici che indichino incertezza, a meno che non si chieda esplicitamente
Sembra plausibile: la struttura, il linguaggio e il dettaglio sono quelli di una risposta corretta
Può contenere elementi reali mescolati a quelli falsi: il che rende la verifica più difficile di una risposta interamente sbagliata

Il professionista che pubblica un report generato con AI, firma un documento basato su dati AI o invia una comunicazione costruita su un’analisi AI non verificata si assume la responsabilità dell’allucinazione. Esattamente come Schwartz.

Il protocollo di verifica in cinque passaggi

La soluzione non è smettere di usare gli strumenti AI. È dotarsi di un protocollo di verifica prima che l’output diventi definitivo.

Identifica le affermazioni verificabili: non tutto va verificato con la stessa intensità. Concentrati su dati numerici, citazioni, nomi propri, date e riferimenti normativi.
Chiedi la fonte: se stai usando un LLM che ha accesso al web (Perplexity, ChatGPT con browsing), chiedi esplicitamente “da quale fonte proviene questa informazione?”. Se non riesce a fornire una fonte verificabile, tratta l’informazione come non verificata.
Incrocia su fonti primarie: per qualsiasi dato critico, verifica direttamente sulla fonte primaria (sito istituzionale, database ufficiale, documento originale). Non affidarti a riassunti generati dall’AI di altri documenti.
Usa più strumenti in parallelo: una risposta confermata da due LLM diversi è meno probabile che sia un’allucinazione. Non è una garanzia, ma riduce il rischio.
Applica il principio del revisore umano: se l’output avrà conseguenze reali, fallo revisionare da una persona competente prima dell’uso. L’AI supporta la preparazione, non sostituisce la firma.