VI
Qualcuno, però, annuncia esattamente il contrario. Alla fine di luglio l’amministratore delegato di OpenAI ha dichiarato in un podcast che la singolarità è arrivata, che questo è il momento. Un anno prima aveva scritto che l’orizzonte degli eventi era ormai alle spalle e il decollo cominciato, e quello scritto si intitolava La singolarità gentile. L’aggettivo è suo, e promette un passaggio senza dolore.
La dichiarazione ha raccolto subito una fila di smentite: i numeri dell’economia raccontano un’altra storia, e la macchina capace di migliorare da sola la propria ricerca resta da dimostrare. Sui numeri, il passato consiglia prudenza a tutti: le grandi tecnologie sono quasi sempre cresciute dentro una bolla, e le bolle scoppiano. Ma scoppiando lasciano a terra l’infrastruttura: le ferrovie lasciarono i binari, la febbre di internet lasciò i cavi. Questa lascerebbe le macchine, e a loro non servono titoli in salita: basta che restino accese. La dimostrazione, per ora, è arrivata a metà: un sistema lasciato solo per otto giorni ha riscritto il proprio strumento di ricerca fino a superare due anni di messa a punto umana. In un grande laboratorio quattro quinti del codice li scrive ormai la macchina, e OpenAI ha messo in calendario, per il 2028, un ricercatore artificiale che faccia da solo il lavoro dei suoi ricercatori umani. Sono ancora gli uomini a scegliere il problema su cui metterla al lavoro, e a giudicare se il risultato è buono. Ma quel presidio si restringe di anno in anno. Accusa e difesa, intanto, discutono della stessa cosa: una data. Danno per scontato che esista un istante preciso, annunciabile da un microfono e verificabile su un grafico. Stanno guardando in alto tutti e due.
È il servizio più prezioso che si possa rendere a una fine senza volto: fornirle un volto. Chi costruisce queste macchine ha bisogno di un evento, perché un evento giustifica le somme spese; e chi le teme ha bisogno di un evento, perché senza un evento non si sa quando protestare. Così la cometa arriva puntuale, e la annuncia chi la sta costruendo. Mentre tutti alziamo gli occhi per cercarla, la sostituzione continua in basso, dove non accade mai niente che meriti un annuncio.
La parola singolarità nasceva con un senso opposto a quello che le diamo adesso. Viene da una conversazione con von Neumann, riferita da Stanisław Ulam nel 1958: oltre un certo punto, diceva, le vicende umane come le conosciamo non potrebbero continuare. Nessuna macchina che si sveglia, nessun duello: soltanto un mondo che smette di essere il nostro. Poi il secolo l’ha rovesciata in una gara con due contendenti e un traguardo, ma nella sua prima forma la singolarità non era un evento. Era una sparizione.
VII
Torniamo alla tavola apparecchiata.
Quella famiglia, nell’ultima scena, possedeva almeno una cosa essenziale: la consapevolezza. Aveva visto la cometa, aveva alzato gli occhi, aveva scelto come stare nell’ora estrema. È poco, davanti alla fine di tutto, ed è insieme tutto: è la differenza tra subire una fine e attraversarla con gli occhi aperti. E quella tavola diceva un’ultima cosa: i gesti che contavano, passarsi il pane, tenersi per mano, non producevano niente. Valevano per il solo fatto di farli. È il valore che non si può cedere, perché non sta nel risultato. Stavolta quella scena mancherà.
Nessuna ora sembrerà l’ultima, e l’ultima passerà per una qualsiasi. Saranno tutte ragionevoli, tutte comode, ciascuna un piccolo passo indietro mascherato da passo avanti: una fatica risparmiata, una decisione affidata a qualcosa che la prende meglio di noi. Ogni singolo passo sarà saggio. La somma sarà un addio. E nessuno suonerà le campane, perché le rese lente non fanno notizia: diventano abitudine, e l’abitudine non si racconta.
L’allarme, del resto, è già suonato. Negli Stati Uniti il settantatré per cento degli esperti giudica positivi gli effetti dell’intelligenza artificiale sul lavoro, mentre fra i cittadini comuni la stessa fiducia scende al ventitré per cento: cinquanta punti di distanza. La paura è già diffusa, ed è più forte proprio fra chi ne subirà le conseguenze. Eppure non ha fermato niente: un allarme che indica un pericolo senza indicare un gesto diventa rumore di fondo, e poi silenzio.
I fatti, oggi, a chi li legge senza cercarvi consolazione, rendono credibile questo scenario: non una macchina malvagia che ci odia, ma un mondo che funziona meravigliosamente, meglio di prima, e nel quale l’uomo è scivolato piano, a margine della propria storia. Una sostituzione silenziosa. E gentile.
Eppure proprio qui, dove tutto sembra chiudersi, si apre una crepa, ed è l’unico varco da cui passa la luce. Fra le strade oggi visibili, lo scenario descritto fin qui resta il più probabile soltanto finché nessuno interviene. È una previsione, non una profezia, e la differenza pesa: una profezia è già scritta nelle stelle, una previsione è soltanto la scommessa che nessuno cambi le carte in tavola. Gli stessi studiosi che descrivono questo declino si rifiutano di chiamarlo destino. Lo chiamano rischio. E usano la parola «irreversibile» a una sola condizione: che restiamo a guardare.
E la vigilanza funziona. Quando una grande azienda del settore ha annunciato che la sua intelligenza artificiale aveva risolto o fatto avanzare dieci problemi matematici aperti da anni, i matematici si sono messi a controllare: in pochi giorni hanno letto centinaia di pagine, hanno ritrovato idee già pubblicate da altri, l’hanno costretta a correggere l’affermazione più spettacolare e hanno riconosciuto quello che era davvero nuovo. Hanno potuto giudicare perché quel lavoro sapevano farlo. Solo che quei matematici erano una dozzina, e leggevano al ritmo di chi legge. Nessuna dozzina di uomini può stare dietro a ciò che una moltitudine di agenti si dice in un pomeriggio, e fingere di poterlo fare è il modo più sicuro per non sorvegliare niente. Sembra una contraddizione: un testo che descrive questo pericolo non dovrebbe additare la stessa tecnica come rimedio. Ma nessuno strumento serve finché non si è capito da che cosa ci si difende; chi l’ha capito può usarlo, e sceglierlo grande quanto il pericolo, senza illudersi che basti. L’unica guardia che regge quel passo è fatta della stessa materia: macchine messe a verificare le macchine, popolazioni di agenti osservate da altri agenti; e c’è già chi finanzia la loro costruzione. Resta un vincolo che nessuna macchina scioglie: la competenza che perdiamo per delega è la condizione che tiene in piedi tutto il resto, perché senza di essa il verdetto della macchina resta illeggibile, e una guardia che non sappiamo leggere non è una guardia.
Sulle sorgenti guaste gli esperimenti dicono una cosa precisa: il collasso arriva quando i dati originari vengono sostituiti da quelli sintetici, e non arriva se restano accanto. La corsa si può frenare con un patto, di quelli che la storia ha sempre firmato dopo aver guardato nel pozzo, mai un minuto prima. E qualcuno, nel pozzo, ha appena guardato: più di mille ricercatori dei laboratori in gara, compresi alcuni dei loro capi, hanno chiesto per iscritto al governo americano strumenti internazionali per regolare il passo della corsa, perché nessuno può rallentare da solo. È un appello volontario, ancora senza vincolo. Ma anche il filo rosso fra Mosca e Washington cominciò così, da uomini che avevano avuto paura della stessa cosa nello stesso istante. L’evoluzione delle macchine vive per ora nelle mani di chi la alleva: sceglie lui quali versioni si riproducono, e il guinzaglio è ancora corto. Il presidio ultimo dell’umano può essere soltanto umano. Ogni anello di questa catena è aperto. Ma ogni anello si richiude da solo, se nessuno lo tiene aperto con la forza delle proprie dita.
È la stessa scelta che ha aperto la prima enciclica di Leone XIV.
«La magnifica umanità creata da Dio si trova oggi di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme.»
Si può lasciare il nome di Dio fuori dalla porta, e la frase regge lo stesso: davanti alla tecnica che promette di toccare l’irraggiungibile restano due strade, e nessuna delle due è già scritta. La torre è la difesa di uno solo, affidata a un guardiano unico, uno Stato o un’azienda, e sale finché crolla. La città ha mura basse tenute da molte mani, pietra su pietra, ciascuno il suo tratto di muro; le macchine ci stanno dentro, come strumenti nelle mani di molti e non come guardiano al posto di tutti.
Per questo il titolo va capovolto. Don’t look up, non guardate in alto, era l’ordine beffardo di chi rifiutava di vedere il fuoco in cielo. Ma nel film quel grido non indicava una direzione: chiedeva di aprire gli occhi. Stavolta in cielo non c’è niente, e ciò che dobbiamo guardare ci sta accanto, dove la rinuncia si veste da servizio e il declino da progresso.
La probabilità non è ancora il destino: è il nome che diamo all’inerzia, e l’inerzia dura fino all’istante in cui qualcuno la chiama per nome e si pianta a sbarrarle il passo. Non spetta a noi dominare tutte le maree del mondo. Spetta a noi sradicare il male nei campi che conosciamo, perché chi verrà dopo trovi terra pulita da seminare.
Stendhal dedicava i suoi libri agli happy few, i pochi capaci di capirlo, e li consegnava al tempo come un seme all’inverno, sicuro che un secolo dopo sarebbero stati molti. Noi quel secolo non ce l’abbiamo.
◇
FONTI
Charles Darwin, L’origine delle specie (1859), darwin-online.org.uk.
Isaac Asimov, Book of Science and Nature Quotations (con J. A. Shulman, 1988).
J.R.R. Tolkien, Il Signore degli Anelli. Il Ritorno del Re, citato da Leone XIV, Magnifica Humanitas (15 maggio 2026).
Don’t Look Up, di Adam McKay (2021).
ONU, verbale della 902ª seduta dell’Assemblea generale, 12 ottobre 1960; N. S. Chruščëv, Memorie (1970-71); crisi dei missili di Cuba, ottobre 1962; PTBT 1963; TNP 1968.
AI.gov; Piano IA di nuova generazione del Consiglio di Stato (Cina); Stanford AI Index 2026; CNAS, Promethean Rivalry.
IEA, Energy and AI (2025).
Ahrefs (2025); Stanford AI Index 2025; Epoch AI; Shumailov et al., Nature (2024); Gerstgrasser et al. (2024).
Darwin Gödel Machine, arXiv:2505.22954 (2025); AlphaEvolve, DeepMind (2025-2026); V. Müller, L. Steels, E. Szathmáry et al., Evolvable AI, PNAS 123(17), 2026; M. Boudry, Domesticated, not feral, e replica degli autori, PNAS (luglio 2026).
Weco AI, AIDE² (luglio 2026); Anthropic, When AI builds itself (giugno 2026); OpenAI, piano per il ricercatore artificiale (ottobre 2025), resoconto dell’uscita dal recinto di prova e rapporto Scientific computing in the age of agentic AI (luglio 2026); i dieci avanzamenti matematici del modello Astra e il loro vaglio pubblico (agosto 2026).
E. Brynjolfsson, B. Chandar e R. Chen, Canaries in the Coal Mine? (Stanford Digital Economy Lab, 2025); Pew Research Center (aprile 2025); Challenger, Gray & Christmas (2025-2026).
World Economic Forum e McKinsey Health Institute, The Human Advantage: Stronger Brains in the Age of AI (15 gennaio 2026).
J. Kulveit et al., Gradual Disempowerment, ICML 2025; arXiv:2501.16946.
S. Ulam, Tribute to John von Neumann, Bulletin of the AMS 64-3 (1958).
S. Altman, The Gentle Singularity (giugno 2025); dichiarazione al podcast Relentless (luglio 2026).
Pacing the Frontier, lettera aperta al governo degli Stati Uniti (luglio 2026).
DeepMind, Schmidt Sciences, ARIA e Cooperative AI Foundation, bando di ricerca sulla sicurezza dei sistemi multiagente (11 giugno 2026); B. Gates, The turbulent AI era is here, gatesnotes.com, e intervista al New York Times (26 agosto 2026).