Quando fermare un progetto di intelligenza artificiale: i segnali da riconoscere

Sapere quando interrompere un’iniziativa di intelligenza artificiale è uno dei test più severi per la governance aziendale. Nella narrazione dominante sull’innovazione tecnologica, l’abbandono di un’iniziativa viene quasi sempre etichettato come un fallimento. Ma con sistemi probabilistici, insistere a oltranza può amplificare perdite economiche, rischi legali e attriti operativi senza produrre un miglioramento proporzionato.

Riconoscere i segnali di allarme non significa cedere allo scetticismo, ma esercitare un controllo strategico sulle risorse. Esistono indicatori che aiutano a capire quando un progetto conserva una ragione economica e organizzativa e quando, invece, è arrivato il momento di ridimensionarlo, riprogettarlo o interromperlo.

Il paradosso dei costi: quando l’inferenza e la manutenzione divorano il ROI

Uno dei primi indicatori di crisi riguarda la sostenibilità economica a regime. Nei progetti pilota, i costi di computazione e sviluppo possono essere parzialmente mascherati da crediti cloud o budget dedicati alla sperimentazione. Nel passaggio alla produzione, la realtà operativa può presentare un conto radicalmente diverso.

Se il costo complessivo necessario per produrre e controllare un risultato supera stabilmente il valore economico generato da quell’azione, l’automazione rischia di perdere la propria ragion d’essere. Diversi fattori possono contribuire:

• La manutenzione delle pipeline dati può richiedere interventi continui per gestire formati instabili o sorgenti eterogenee.
• Il fine-tuning, il riaddestramento o altri interventi di adattamento del modello possono introdurre spese computazionali e operative ricorrenti.
• L’infrastruttura accessoria — vettorizzazione, caching, monitoraggio, sistemi di sicurezza e controllo — può introdurre costi che nella fase pilota erano stati sottovalutati.

Il segnale critico non è semplicemente che il costo marginale non diminuisca con l’adozione. È che, anche dopo le necessarie ottimizzazioni, il rapporto tra costo totale, valore prodotto e rischio rimanga strutturalmente sfavorevole.

L’illusione dell’ultimo miglio e gli errori che non riusciamo a ridurre

Nei sistemi di apprendimento automatico, migliorare le prestazioni oltre una determinata soglia può richiedere risorse progressivamente maggiori senza garantire miglioramenti proporzionati.

Il segnale critico emerge quando il team si trova bloccato nell’illusione dell’ultimo miglio: ogni intervento introdotto per ridurre un determinato insieme di allucinazioni, falsi positivi o altri errori produce benefici marginali, introduce nuove regressioni oppure richiede controlli sempre più complessi.

La supervisione umana non rappresenta di per sé un fallimento. In molti contesti è una misura necessaria e, per determinati sistemi ad alto rischio, l’AI Act attribuisce alla supervisione umana un ruolo specifico nella gestione dei rischi.

Il problema emerge quando il livello di controllo manuale necessario per rendere affidabile il processo assorbe stabilmente più risorse del beneficio prodotto dall’automazione.

Se un operatore deve verificare sistematicamente ogni singola riga di testo, classificazione o previsione prima che possa essere utilizzata, occorre quindi chiedersi se l’architettura scelta stia realmente migliorando il processo oppure vi stia semplicemente aggiungendo un nuovo livello di complessità.

La perdita di controllabilità, tracciabilità e allineamento normativo

Un sistema che produce output soddisfacenti in ambiente controllato può rivelarsi difficile da governare quando viene inserito nei processi reali.

Per determinate applicazioni, e in particolare per i sistemi ad alto rischio disciplinati dall’AI Act, diventano centrali elementi come supervisione umana, monitoraggio, registrazione delle attività, accuratezza, robustezza e capacità di interpretare correttamente gli output.

I segnali da considerare critici sul fronte della governance comprendono:

• L’impossibilità di ricostruire adeguatamente il processo che ha portato a una decisione o di fornire alle persone incaricate della supervisione informazioni sufficienti per interpretare e controllare gli output.
• La presenza di data drift, concept drift o altre variazioni delle condizioni operative tali da determinare comportamenti inattesi che il team non riesce più a monitorare o mitigare in modo affidabile.
• L’esposizione a rischi legali, operativi o regolatori per i quali l’organizzazione non dispone di misure di mitigazione proporzionate ed efficaci.

Per i sistemi ad alto rischio, il principio è particolarmente concreto: la supervisione deve consentire alle persone incaricate di comprenderne capacità e limiti, individuare anomalie e prestazioni inattese, evitare l’affidamento automatico sull’output e, quando necessario, ignorarlo, modificarlo o intervenire sul funzionamento del sistema fino a interromperlo.

Quando l’organizzazione non è più in grado di mantenere questo livello di controllo, la prosecuzione del progetto deve essere rivalutata.

Il rigetto operativo: quando gli utenti aggirano lo strumento

Un indicatore spesso trascurato non risiede nel codice, ma nell’interazione quotidiana tra l’AI e le persone a cui era destinata. L’introduzione di una nuova tecnologia può produrre resistenza, utilizzi impropri o la creazione di processi paralleli.

Quando gli operatori interni o i clienti finali non si fidano delle risposte fornite dal sistema, possono sviluppare procedure non tracciate per verificare i dati o rifare il lavoro da capo.

Questo comportamento non dimostra automaticamente che il sistema sia tecnicamente inadeguato. Può dipendere dalla qualità degli output, ma anche da formazione insufficiente, processi mal progettati, aspettative irrealistiche, incentivi incoerenti o da una gestione del cambiamento non adeguata.

Il segnale diventa critico quando, dopo aver analizzato e affrontato queste cause, l’utilizzo effettivo rimane basso e i flussi di lavoro continuano a dipendere da verifiche manuali o procedure parallele che annullano il beneficio atteso.

A quel punto il problema non è convincere le persone a utilizzare maggiormente l’AI. È capire se l’AI risolve davvero il problema per cui era stata introdotta.

Chiudere senza disperdere: trasformare lo stop in patrimonio aziendale

Interrompere un progetto non significa distruggerne i risultati. La decisione di fermarsi può essere gestita come una fase ordinata del ciclo di vita dello sviluppo tecnologico, preservando gli asset realmente riutilizzabili.

Un’interruzione efficace può prevedere:

• L’isolamento e la catalogazione dei dataset ripuliti e strutturati durante la fase di preparazione, nel rispetto dei relativi vincoli di utilizzo, conservazione e protezione dei dati.
• La formalizzazione di un post-mortem tecnico e di business per documentare con precisione perché la soluzione adottata non fosse adeguata a quello specifico problema.
• La valutazione di soluzioni più semplici e deterministiche quando risultino più stabili, controllabili ed economicamente sostenibili, come automazioni basate su regole, miglioramenti dei database o integrazioni API standard.

La capacità di disinvestire dai tentativi che non superano una verifica tecnica, economica o organizzativa libera risorse da destinare ai casi d’uso nei quali l’intelligenza artificiale produce un valore misurabile.

In una strategia di AI Governance matura, saper fermare un progetto non è l’opposto dell’innovazione.

È una delle forme attraverso cui l’organizzazione dimostra di governarla.