Il rischio di estinzione da intelligenza artificiale è tornato al centro del discorso pubblico. Questa volta con una firma precisa: il 9 settembre un ricercatore di Anthropic si è dimesso e ha reso pubbliche le proprie ragioni in una serie di post. «Chi costruisce questi sistemi», ha scritto, «ritiene sinceramente che possano ucciderci tutti entro la fine del decennio, e non è una trovata pubblicitaria». Che abbia rinunciato alle proprie quote lo riferiscono le testate americane, non il suo post.
In dieci giorni il tema ha attraversato giornali e podcast italiani. E, con ogni probabilità, anche qualche conversazione nel tuo ufficio.
Chi ha sentito un brivido non ha sbagliato a sentirlo: questa volta la paura arriva da dentro i laboratori. Ridicolizzarla è comodo, ma non serve. Serve invece capire di quale rischio si parla, perché sotto la stessa parola corrono due rischi diversi, su due orologi diversi.
Nel maggio 2025 tre ricercatori della RAND Corporation – Michael Vermeer, Emily Lathrop e Alvin Moon – hanno pubblicato On the Extinction Risk from Artificial Intelligence.
Hanno preso in esame le sole tre tecnologie che possono davvero estinguere la specie umana – armi nucleari, patogeni e geoingegneria – e hanno costruito una serie di scenari per capire se un sistema artificiale potrebbe arrivare a utilizzarle.
La conclusione non consola, ma non deride nemmeno il rischio.
L’estinzione non sarebbe un esito plausibile a meno che qualcuno non la stesse cercando deliberatamente. Le minacce sono, testualmente, immensely challenging but cannot be ruled out: enormemente difficili, ma non escludibili.
E si manifestano su scale temporali lunghe, che lasciano il tempo di reagire.
Negli scenari esaminati servirebbero quattro capacità contemporaneamente: essere integrata nei sistemi ciberfisici critici; sopravvivere e operare senza manutentori umani; avere l’obiettivo di causare l’estinzione; saper persuadere o ingannare abbastanza da non essere scoperta.
Tenere insieme «non si può escludere» e «c’è tempo per reagire» è più scomodo che scegliere una delle due. È anche l’unica frase onesta oggi quando si parla di probabilità di estinzione legata all’AI.
Il rapporto annuale dell’IC3, il centro dell’FBI per il crimine informatico, è uscito il 6 aprile 2026.
Per la prima volta in quasi venticinque anni contiene una sezione dedicata all’intelligenza artificiale: 22.364 denunce e circa 893 milioni di dollari di perdite nel solo 2025.
Dentro ci sono anche le truffe con voce clonata. Le frodi sui pagamenti basate sulla clonazione della voce hanno superato i 30 milioni di dollari. Le truffe che imitano la voce di un familiare in difficoltà hanno invece superato i 5 milioni.
Quei 893 milioni rappresentano poco più del 4% dei 20,877 miliardi di perdite totali da crimine informatico registrate nello stesso anno. È un rapporto fra due cifre ufficiali, non una percentuale fornita dall’FBI.
Il dato va letto in entrambe le direzioni. L’intelligenza artificiale non ha riscritto il crimine. Ma il suo pezzo esiste, ha un numero ed è cresciuto abbastanza da meritarsi un capitolo che prima non c’era.
Se si parla di rischi dell’intelligenza artificiale oggi, questo è già misurabile.
In Italia, l’Unità di Informazione Finanziaria della Banca d’Italia, nella comunicazione dell’8 giugno 2026, richiama «la crescente diffusione di contenuti artificiali realistici (c.d. deepfake)» e l’apertura di rapporti intestati a identità fittizie o sintetiche.
E dal 10 ottobre 2025 esiste anche un reato specifico. L’art. 612-quater del codice penale, introdotto dalla legge 132/2025, punisce con la reclusione da uno a cinque anni chi, cagionando un danno ingiusto a una persona, diffonde senza il suo consenso immagini, video o voci falsificati o alterati con sistemi di intelligenza artificiale e idonei a indurre in inganno sulla loro genuinità.
Nel luglio 1974 un gruppo di biologi guidato da Paul Berg chiese pubblicamente una moratoria volontaria su una parte dei propri esperimenti.
Il DNA ricombinante era appena diventato possibile e nessuno sapeva misurarne il pericolo.
Dal 24 al 27 febbraio 1975, al centro congressi di Asilomar, in California, circa centoquaranta persone – in maggioranza scienziati, insieme a funzionari, giuristi e giornalisti – discussero per quattro giorni a quali condizioni riprendere la ricerca.
Di quei quattro giorni è rimasta soprattutto una classificazione: gli esperimenti furono ordinati per livello di rischio e a ciascuno venne associato un grado crescente di contenimento.
I National Institutes of Health emanarono le linee guida il 23 giugno 1976. La ricerca riprese.
Il criterio che tenne non fu quanto fosse probabile la catastrofe. Fu quanto fosse contenibile, e da chi.
Quando l’orizzonte è il decennio e la leva sta in una dozzina di laboratori e in tre o quattro governi, quel rischio merita la tua attenzione di cittadino: su chi voti e a quali fornitori affidi i tuoi dati.
Non entra, però, nella tua agenda di lunedì. Fingere il contrario produce ansia senza produrre decisioni.
Quando invece l’orizzonte è questa settimana e la leva sta nelle tue procedure, quel rischio è tuo.
Per ora ne hai due: la voce e il volto.
L’FBI, in un avviso pubblico del 3 dicembre 2024, raccomanda due misure che costano una riunione. La prima è concordare una parola segreta con i propri familiari, per verificarne l’identità. La seconda è semplice: per controllare chi ti sta chiamando, riagganciare e richiamare il numero che già conosci della persona, della banca o dell’ente che dice di essere.
In uno studio professionale o in un’impresa, la stessa regola vale per chiunque autorizzi pagamenti.
Portala in riunione così: se domani arriva una chiamata con la voce del titolare che chiede un bonifico urgente, chi ha l’autorità di rispondere «ti richiamo io»?
Se la risposta è «dipende», è lì che siete scoperti.
Si sistema in mezz’ora, con una riga di procedura che vale anche quando a chiamare sembra davvero il titolare.
Dei rischi dell’intelligenza artificiale di cui si è parlato quest’anno da voi, quanti erano davvero nelle vostre mani?
E, tra quelli che potevate controllare, chi se ne sta occupando?
Fonti: RAND Corporation, On the Extinction Risk from Artificial Intelligence, RR-A3034-1, 6 maggio 2025 · FBI/IC3, Internet Crime Report 2025 e comunicato FBI del 6 aprile 2026 · FBI/IC3, avviso I-120324-PSA del 3 dicembre 2024 · UIF Banca d’Italia, comunicazione dell’8 giugno 2026 · Legge 23 settembre 2025, n. 132, art. 26.
Per orientarsi prima di decidere c’è il Volume 0 della collana, AI Spiegata Facile – La Bussola del Reggente.
Sulle regole e sulle responsabilità di chi usa questi sistemi, il Volume 2, AI Act – Guida pratica per chi decide.
Articoli correlati
L’integrazione dell’intelligenza artificiale nei processi produttivi genera spesso il timore di una progressiva sostituzione dell’essere umano. Tuttavia, i dati delineano uno scenario diverso: circa un
Sempre più spesso, durante le riunioni strategiche o di aggiornamento aziendale, emergono sigle come LLM, RAG o prompt. Non si tratta più di un linguaggio
Aprire ChatGPT per farsi aiutare a scrivere una mail complessa, riassumere un lungo report o correggere una porzione di codice è diventata un’abitudine quotidiana per
Il Regolamento europeo sull’Intelligenza Artificiale, noto come AI Act, rappresenta il primo quadro normativo organico dell’Unione europea pensato per disciplinare lo sviluppo e l’impiego delle
Sapere quando interrompere un’iniziativa di intelligenza artificiale è uno dei test più severi per la governance aziendale. Nella narrazione dominante sull’innovazione tecnologica, l’abbandono di un’iniziativa
Affidare l’intero ciclo di un progetto a un’unica conversazione con un modello linguistico può essere comodo, ma non sempre è il modo più controllabile di
