2030, l’anno in cui l’intelligenza artificiale potrebbe sfuggirci di mano?

Tra rischio esistenziale, corsa tecnologica e responsabilità umana

Ho fatto una domanda all’intelligenza artificiale: «È vero che nel 2030 potreste distruggere l’umanità?».

La domanda era volutamente provocatoria e, ammettiamolo, conteneva anche una certa dose di ironia: chiedere a un’intelligenza artificiale se l’intelligenza artificiale rappresenti una minaccia per la sopravvivenza dell’uomo somiglia un po’ a chiedere all’imputato se abbia intenzione di commettere il delitto. La risposta, però, è stata molto meno apocalittica della domanda: no, non esiste oggi alcuna previsione scientifica secondo la quale l’intelligenza artificiale distruggerà l’umanità nel 2030. Ed è bene chiarirlo subito, perché una cosa è parlare di rischio, un’altra trasformare un’ipotesi in una profezia.

Il problema è che, tolto il sensazionalismo, resta comunque qualcosa di molto serio. Negli ultimi giorni il dibattito sulla sicurezza dell’intelligenza artificiale è tornato prepotentemente d’attualità. Reuters ha riferito il 15 settembre 2026 delle dimissioni dell’ex ricercatore di Google DeepMind Bilal Chughtai, che lavorava proprio sui temi della sicurezza e dell’allineamento dei sistemi di IA e che ha espresso timori estremi sulle possibili conseguenze future di sistemi fuori controllo. Il suo intervento segue quello di altri ricercatori provenienti da aziende di primo piano, tra cui Jacob Coxon, ex OpenAI e Anthropic.

E non si tratta più soltanto delle preoccupazioni di qualche studioso isolato. Nel 2023 il Center for AI Safety pubblicò una dichiarazione di appena una frase, secondo cui mitigare il rischio di estinzione causato dall’intelligenza artificiale dovrebbe essere una priorità globale comparabile ad altri rischi di scala sociale, come pandemie e guerra nucleare. Tra i firmatari compaiono Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei e altri protagonisti dello sviluppo dell’intelligenza artificiale contemporanea. Non proprio un gruppo di persone ostili alla tecnologia.

Un’indagine ripresa da Nature nel 2024 interrogò circa 2.700 ricercatori che avevano pubblicato nelle principali conferenze internazionali di intelligenza artificiale. La maggioranza attribuiva almeno un 5 per cento di probabilità a scenari estremamente negativi legati a una futura superintelligenza. Quel dato va però interpretato con cautela: non significa che gli scienziati prevedano la fine del mondo, e le risposte erano molto disperse. Significa piuttosto che una parte consistente degli studiosi ritiene che il rischio non possa essere liquidato come pura fantascienza.

Ma allora perché si parla proprio del 2030? La risposta è semplice: il 2030 non è una data scientificamente individuata come il momento in cui l’umanità dovrebbe estinguersi, ma una soglia ricorrente nelle previsioni sulla rapidissima crescita delle capacità dei sistemi di intelligenza artificiale. Negli ultimi anni dirigenti delle principali aziende del settore hanno ipotizzato progressi estremamente rapidi verso sistemi capaci di svolgere una parte crescente delle attività cognitive oggi riservate all’uomo.

Qui entra in scena anche Elon Musk, spesso citato come se avesse profetizzato direttamente la distruzione dell’umanità entro il 2030. Non è così. Musk ha espresso più volte valutazioni personali molto pessimistiche sui rischi dell’IA e, contemporaneamente, previsioni particolarmente aggressive sulla velocità con cui i sistemi artificiali potrebbero raggiungere o superare capacità umane. La distinzione è fondamentale: dire che esiste una probabilità di esito catastrofico non equivale a dire che quell’esito si verificherà. Ed è significativo che proprio Musk, che da anni mette in guardia sui rischi dell’intelligenza artificiale, sia anche proprietario di xAI, una delle società impegnate nella stessa corsa tecnologica.

Il paradosso, in realtà, non riguarda solo lui. Gli uomini che costruiscono i sistemi più potenti del mondo ci avvertono che quei sistemi potrebbero diventare pericolosi, ma continuano a costruirli. Ed è qui che il problema tecnologico diventa economico e geopolitico. Supponiamo che le principali aziende del settore siano realmente convinte che rallentare sia prudente: quale di loro dovrebbe fermarsi per prima? OpenAI, Anthropic, Google, Meta, xAI? Se una rallenta e le altre continuano, quella che rallenta rischia di perdere investimenti, mercato, talenti e vantaggio tecnologico.

Lo stesso meccanismo vale per gli Stati. Gli Stati Uniti osservano la Cina, la Cina osserva gli Stati Uniti e l’Europa cerca di non rimanere definitivamente ai margini della competizione tecnologica. Ognuno può avere interesse a evitare un incidente, ma nessuno vuole concedere agli altri il vantaggio di arrivare per primo. È il classico problema dell’azione collettiva. E forse è questo, più ancora dell’intelligenza artificiale stessa, l’elemento realmente inquietante: per provocare una crisi non è necessaria una macchina malvagia. È sufficiente una tecnologia straordinariamente potente inserita in un sistema profondamente umano fatto di competizione, denaro, prestigio, potere e paura di perdere terreno.

Il documento più utile per riportare la discussione su un terreno meno emotivo è l’International AI Safety Report 2026, pubblicato il 3 febbraio. Il rapporto è stato coordinato da Yoshua Bengio, scritto da oltre cento esperti e sostenuto da più di trenta Paesi e organizzazioni internazionali. È interessante proprio perché non sostiene né la tesi apocalittica né quella rassicurante. Dice anzitutto una cosa importante: i sistemi di intelligenza artificiale attuali non possiedono capacità sufficienti per produrre uno scenario globale di perdita di controllo. Ma aggiunge immediatamente che stanno migliorando proprio in alcune delle capacità che sarebbero necessarie perché uno scenario del genere possa diventare più plausibile: autonomia, pianificazione, utilizzo di strumenti, capacità di individuare falle nelle valutazioni e riconoscimento del fatto di trovarsi in un ambiente di test.

Il rapporto definisce loss of control gli scenari nei quali uno o più sistemi arrivano a operare al di fuori del controllo umano e riprenderne il controllo diventa estremamente difficile o impossibile. Sottolinea però anche un elemento decisivo: gli esperti sono profondamente divisi sulla probabilità che questo accada. Per alcuni si tratta di uno scenario estremamente improbabile; per altri è sufficientemente plausibile e sufficientemente grave da richiedere misure preventive già oggi. È probabilmente questa la posizione più equilibrata disponibile: non sappiamo se succederà, ma sappiamo abbastanza per chiederci cosa succederebbe se succedesse.

Quando sentiamo parlare di intelligenza artificiale e rischio esistenziale, il nostro immaginario corre immediatamente a Terminator, Matrix o HAL 9000. Probabilmente è il modo meno utile di affrontare il problema. Una macchina non deve odiarci, non deve essere cosciente e non deve ribellarsi. Uno dei problemi più studiati è quello dell’alignment, cioè della corrispondenza fra gli obiettivi perseguiti dal sistema e quelli che l’uomo intende realmente affidargli. Un sistema molto potente potrebbe diventare pericoloso non perché “cattivo”, ma perché estremamente efficace nel perseguire un obiettivo formulato male o interpretato in modo diverso da quello previsto.

E c’è poi un secondo rischio, molto meno cinematografico ma probabilmente più concreto: noi. Cyberattacchi, manipolazione dell’informazione, armi autonome, sorveglianza, ricerca biologica, sistemi militari e infrastrutture critiche non richiedono alcuna superintelligenza ribelle perché l’intelligenza artificiale diventi pericolosa. Serve soltanto qualcuno disposto a usarla male. È un problema di controllo, progettazione e responsabilità. Molto meno spettacolare, molto più concreto.

Naturalmente esiste anche un fronte opposto. Alcuni studiosi ritengono che il dibattito sull’estinzione dell’umanità sia troppo speculativo e rischi di distrarre dai danni che l’intelligenza artificiale sta già producendo: perdita o trasformazione di posti di lavoro, concentrazione del potere tecnologico in poche aziende, disinformazione automatizzata, sorveglianza, bias algoritmici, consumo energetico e uso militare. Problemi reali, presenti, misurabili.

Esiste poi un’obiezione ancora più scomoda. Se le grandi aziende tecnologiche convincono governi e opinione pubblica che soltanto loro possiedono sistemi talmente potenti da minacciare l’umanità, potrebbero ottenere normative tanto onerose da rendere quasi impossibile l’ingresso di nuovi concorrenti. La sicurezza diventerebbe così anche una barriera industriale. Anche questo è un punto che non può essere ignorato, perché quando sono le stesse aziende che producono una tecnologia a dire che quella tecnologia è potenzialmente pericolosissima e contemporaneamente chiedono di partecipare alla scrittura delle regole che dovranno governarla, un certo grado di prudenza giornalistica è necessario.

A questo punto la domanda iniziale torna inevitabile: l’intelligenza artificiale distruggerà l’umanità nel 2030? No, o più correttamente nessuno oggi possiede elementi seri per affermarlo. Il 2030 non è la data della fine del mondo, non esiste un conto alla rovescia scientifico e non esiste una profezia condivisa dagli esperti. Esiste però qualcosa che sarebbe altrettanto sbagliato ignorare: le capacità dei sistemi di intelligenza artificiale stanno crescendo rapidamente, una parte significativa delle persone che conoscono meglio questa tecnologia ritiene plausibili anche scenari estremamente negativi, un’altra parte li considera eccessivamente speculativi e nessuno, oggi, è in grado di dimostrare con certezza quale delle due parti abbia ragione.

Forse allora la domanda iniziale era formulata male. Non dovremmo chiederci se l’intelligenza artificiale distruggerà l’umanità nel 2030. Dovremmo chiederci quanto rischio siamo disposti ad accettare pur di arrivare primi, se esiste anche soltanto una possibilità che sistemi molto più potenti di quelli attuali possano sfuggire al nostro controllo. Perché, a quel punto, il problema non riguarda più l’intelligenza delle macchine. Riguarda la nostra.