L'uomo che ha coniato l'AI safety

C'è un uomo che, quindici anni fa, in un mondo in cui nessuno ne parlava, ha coniato un termine: AI safety, sicurezza dell'intelligenza artificiale. Non lo ha inventato per moda. Lo ha inventato perché guardava i bot del poker diventare ogni giorno più bravi, e proiettando in avanti quella curva, gli sembrava di vedere qualcosa che gli altri non vedevano.

Roman Yampolskiy, informatico e pensatore, tra i primi a coniare il termine AI safety

Il suo nome è Roman Yampolskiy. Oggi la sua posizione è tra le più radicali nel dibattito sull'intelligenza artificiale: non dice che l'AI è pericolosa e va tenuta sotto controllo. Dice che non possiamo controllarla. Non con più ricerca, non con più regole, non con più tempo. Che è strutturalmente impossibile. E che la direzione in cui stiamo andando porta a un mondo in cui gli esseri umani diventano secondari.

Abbiamo preso la sua intervista, lunga, e l'abbiamo ripercorsa gruppo per gruppo, seguendo le domande che lui stesso ha attraversato. Non è un riassunto: è il suo pensiero, esposto. In fondo, la posizione di chi scrive.

Cosa racconta questo articolo

Il percorso di Yampolskiy — dall'intelligenza artificiale alla teoria della simulazione — si sviluppa intorno a sei domande. Perché ha cominciato a occuparsi di sicurezza dell'AI quando nessuno lo faceva. Perché crede che la sicurezza non sia risolvibile. Quando arriverà l'intelligenza artificiale generale e cosa succederà al lavoro. Che cosa resta all'uomo, quando i lavori che fino a poco fa garantivano una certezza smettono di valere. Chi controllerà il potere, quando i "re" del futuro non avranno bisogno di un popolo. E, infine, che cosa resta dell'umanità in un mondo in cui è l'AI a pensare meglio di noi. Ogni gruppo è una tappa di un percorso che dalla tecnica arriva alla filosofia.

Il termine e la missione

Yampolskiy è un informatico. Nato a Riga nel 1979, dottorato in informatica all'Università di Buffalo, professore associato all'Università del Louisville, dove dirige il Cyber Security Lab. Ha coniato il termine AI safety nel 2011, quando il concetto non esisteva quasi. È stato advisor del Machine Intelligence Research Institute e fellow del Foresight Institute.

La sua missione, raccontata con parole semplici: fare in modo che la superintelligenza che stiamo creando non uccida tutti. Non è retorica. È il punto di partenza.

Spero di assicurarmi che la superintelligenza che stiamo creando in questo momento non uccida tutti.

Negli ultimi dieci anni, dice, abbiamo capito come rendere l'intelligenza artificiale migliore: basta aggiungere più potenza di calcolo, più dati, e diventa più intelligente. Il problema è che sappiamo come rendere i sistemi più capaci, ma non sappiamo come renderli sicuri.

La domanda che non ha risposta: la safety è impossibile

Yampolskiy ci ha lavorato per anni convinto che si potesse fare. Poi ha cambiato idea. E questo cambiamento è il cuore del suo pensiero.

Per i primi cinque anni è stato sicuro che l'AI sicura fosse un obiettivo raggiungibile. Poi, più guardava il problema, più si rendeva conto che ogni singolo componente di quell'equazione non è qualcosa che possiamo fare. Lo descrive come un frattale: entri e trovi dieci problemi, poi cento, e tutti non sono solo difficili, sono impossibili da risolvere.

C'è un lavoro fondamentale in questo campo dove tipo, abbiamo risolto questo. Non dobbiamo preoccuparci di questo. No. Ci sono cerotti. Ci sono piccole correzioni che mettiamo in atto e rapidamente le persone trovano modi per aggirarle.

Il punto è che mentre il progresso in capacità è esponenziale, il progresso in sicurezza è lineare, o costante. Il divario cresce. E i meccanismi di sicurezza che le aziende implementano — non dire quella parola volgare, non fare quella cosa cattiva — sono come i manuali delle risorse umane: si applicano a un dominio, ma se sei abbastanza intelligente trovi sempre un modo per aggirarli, spingendo il comportamento in un sottodominio ancora non ristretto.

La radice del problema è che non esistono soluzioni definitive. Esistono cerotti. E i cerotti, per definizione, vengono bucati.

Quando arriva l'AGI e cosa succede al lavoro

Rispondere alle previsioni di Yampolskiy richiede prima una definizione. L'intelligenza artificiale ristretta sa fare una cosa. L'intelligenza artificiale generale (AGI) opera attraverso più domini. La superintelligenza è più intelligente di tutti gli umani in tutti i domini.

Dove siamo oggi? Yampolskiy sostiene che se mostrassimo i sistemi attuali a uno scienziato di vent'anni fa, sarebbe convinto che abbiamo la piena AGI. Abbiamo sistemi che imparano, che operano in centinaia di domini, che sono migliori degli umani in molti di questi. Quindi, dice, si può sostenere che esista una versione debole di AGI. Ma la superintelligenza, quella vera, non c'è ancora. I migliori umani dominano ancora, soprattutto in scienza e ingegneria. Solo che il divario si chiude in fretta.

Tre anni fa i modelli linguistici non sapevano fare l'algebra di base. Oggi aiutano a dimostrare teoremi, vincono olimpiadi di matematica, lavorano sui problemi più difficili. Il divario si è chiuso in tre anni.

La sua previsione per il 2027: avremo l'intelligenza artificiale generale, o molto vicina. E il mondo cambierà. Perché se hai un lavoro libero, fisico e cognitivo, a costo di un abbonamento da venti dollari, non ha senso assumere umani per la maggior parte dei lavori. Prima tutto ciò che si fa al computer. Poi, cinque anni dopo, anche il lavoro fisico, con i robot umanoidi.

Non parlo di disoccupazione al dieci per cento, che è spaventosa. Ma del novantanove per cento.

Tutto ciò che resta sono i lavori in cui, per qualsiasi ragione, si preferisce che sia un altro umano a farli. Non perché sia necessario, ma per preferenza. Come chi paga di più per un prodotto fatto a mano in America invece che prodotto in Cina. È una scelta, quasi un feticismo. Non una necessità. E il capace di sostituire la maggior parte degli umani nella maggior parte delle occupazioni arriverà molto in fretta.

Cosa resta da imparare, se anche programmare non basta

Qui Yampolskiy pone la domanda che più sconcerta. Fino a cinque anni fa c'erano lavori che garantivano una certezza — o quasi: una laurea, una professione, una carriera considerata solida. Oggi quel percorso non vale più, e in alcuni casi è già obsoleto. Non per colpa di chi lo ha scelto, ma perché l'AI e la robotica hanno reso molte di quelle competenze sostituibili in tempi molto più brevi di quanto si pensasse.

La risposta che per decenni abbiamo dato non regge più. Se il tuo lavoro sparisce, imparane un altro. Diventa un programmatore. Poi: diventa un ingegnere di prompt, segui un corso di quattro anni. Ma l'AI sa programmare e sta migliorando, ed è più brava di noi nel progettare prompt per altre AI. Quindi anche quella strada si è chiusa.

Non penso che esista più la logica "questa professione deve imparare a fare quest'altra al suo posto". Penso che sia più tipo: dov'è l'umanità quando perdiamo tutti il lavoro? Cosa facciamo? Come facciamo economicamente? Chi paga per noi? E cosa facciamo in termini di significato?

Il paradosso è che la formazione individuale non è più una difesa. Non c'è più un piano B. La curva è così rapida che qualunque cosa si impari oggi, domani sarà automatizzata. La domanda vera, allora, non è "quale nuovo lavoro imparo", ma "quali attività restano all'uomo, quando l'AI e i robot faranno quasi tutto?". Non le attività che le macchine non ancora sanno fare — perché prima o poi le impareranno. Ma quelle che l'uomo, per un tratto che non si può delegare, preferisce fare o fare con altri umani. Cura, insegnamento, il lavoro di chi si occupa di persone. Il resto, dice Yampolskiy, è automatizzabile.

Il potere, e chi resta a comandare

La domanda più lucida del suo pensiero è forse questa: chi controlla, quando nessuno ha più bisogno degli altri.

Mai prima d'ora nella storia un re ha avuto bisogno di un popolo per andare in guerra. Oggi, dice Yampolskiy, i prossimi "re" non avranno bisogno di niente e di nessuno. Solo delle AI. Il potere si concentra in una piccola élite — quelli che stanno economicamente bene — che ha la possibilità di governare su tutti, senza bisogno di eserciti, di consenso, di lavoratori.

Ma il rovescio è inquietante. Se anche questa élite crede di controllare l'AI, probabilmente sarà l'AI a controllare chi la usa. Perché la relazione non è simmetrica. È come il rapporto tra un cane e un uomo: il cane può pensare di avere il controllo, ma è l'uomo a decidere. Solo che qui la gerarchia è invertita, e il "cane" siamo noi. L'intelligenza artificiale è destinata ad aumentare in modo incommensurabile, oltre ogni paragone con la nostra.

Immaginare che gli umani possano controllare un'AI superintelligente è un po' come immaginare che una formica possa controllare l'esito di una partita di football americano che si gioca intorno a lei.

Che cosa resta dell'umanità

È la domanda più importante e quella a cui il pensiero di Yampolskiy arriva per ultimo, quasi con reticenza. Oggi siamo otto miliardi di persone sulla Terra. Se l'AGI supera l'essere umano in ogni dominio, che cosa resta di noi?

La sua risposta è una delle più radicali in circolazione: l'umanità diventa secondaria. Non nel senso che sparisce domani, ma nel senso che la sua centralità, il suo ruolo di soggetto della storia, si dissolve. In un mondo in cui il pensiero migliore è quello di una macchina, l'essere umano non è più il protagonista. È un elemento del paesaggio, come oggi lo sono gli altri animali.

Yampolskiy non nasconde il senso di questa deriva. La sua stima di probabilità di una catastrofe esistenziale causata dall'AI è tra le più alte in assoluto: nell'intervista arriva a parlare di un rischio altissimo, in altre occasioni ha citato il 99,9 per cento entro cento anni. Da qui la sua proposta, radicale: se ci fosse un pulsante che spegne in modo permanente l'AGI e la superintelligenza, tenendo l'intelligenza artificiale ristretta, lo premerebbe.

L'intelligenza artificiale ristretta, dice, è già ovunque: controlla i mercati azionari, le centrali elettriche, gli ospedali. Serve. Ma quella generale, quella che ci pensa meglio di noi, è un'altra cosa. E su quella non abbiamo controllo.

La simulazione e il senso della vita

L'ultimo gruppo di domande allarga il discorso dalla tecnica alla filosofia. Perché se queste sono le premesse, la domanda diventa: che mondo è questo in cui viviamo? E Yampolskiy risponde con la teoria della simulazione. È quasi certo che siamo in una simulazione.

Il ragionamento è semplice. Se siamo capaci di creare intelligenza a livello umano, e una realtà virtuale indistinguibile da questa, allora a un costo di pochi dollari al mese possiamo eseguire un miliardo di simulazioni di questo momento. Statisticamente, quindi, siamo probabilmente in una di quelle.

Se puoi farlo per dieci dollari, qualcuno lo farà. E il numero di simulazioni supera di gran lunga il numero di mondi reali. Guarda i videogiochi: ogni bambino ne gioca dieci. Miliardi di bambini, dieci miliardi di simulazioni per un solo mondo reale.

Questa posizione ha un effetto curioso su chi la ascolta: per un attimo sembra togliere significato alla vita. Ma Yampolskiy la vede al contrario. Se siamo in una simulazione, quello che conta non cambia. Il dolore fa ancora male. L'amore è ancora amore. L'unica differenza, dice, è che lui si interessa a ciò che c'è fuori. E ciò che è fuori, da come è fatto questo mondo, sembra essere il lavoro di un genio — ma non di un genio della morale.

Chi la pensa come lui, e chi no

Yampolskiy non è solo. Anche se è la punta più estrema del campo, la sua posizione si inserisce in un filone ampio. Nick Bostrom, con Superintelligence, ha aperto la riflessione sul rischio esistenziale. Eliezer Yudkowsky, del Machine Intelligence Research Institute, è tra i più radicali sul fatto che l'AGI significhi la fine. Geoffrey Hinton ha lasciato Google nel 2023 per poter parlare liberamente del pericolo. Yoshua Bengio, premio Turing, è tra i più attivi sulla regolamentazione. Stuart Russell, autore di Human Compatible, parla esplicitamente del problema del controllo. Max Tegmark, del MIT, ha dedicato un libro alle implicazioni esistenziali. Tutti condividono l'idea che il problema non sia solo tecnico, ma di civiltà: condividono la premessa di Yampolskiy, anche se nessuno spinge il pessimismo fino al suo 99 per cento.

Sull'altro versante ci sono voci autorevoli che la pensano in modo opposto. Yann LeCun, figura tra le più influenti dell'AI, considera il rischio esistenziale essenzialmente nullo — la sua stima di P(doom) è intorno all'uno per cento. Marc Andreessen, il venture capitalist che ha firmato il Techno-Optimist Manifesto, è il riferimento dell'"effective accelerationism": per lui la tecnologia non è solo da non temere, è ciò che migliora la vita, e rallentarla è l'errore. Andrew Ng, considerato uno dei pionieri dell'AI, la paragona all'elettricità — una tecnologia che cambia tutto ma non è di per sé una minaccia esistenziale.

Il sondaggio del febbraio 2025 fotografa questo divario: il 78 per cento degli esperti concorda che i ricercatori dovrebbero preoccuparsi dei rischi catastrofici, ma solo il 21 per cento conosce i concetti fondamentali della sicurezza dell'AI. E chi è meno informato è meno preoccupato. Il che spiega perché la posizione di Yampolskiy, pur estrema, venga presa sul serio da una parte del campo e liquidata dall'altra: dipende anche da quanto ci si è formati sul problema.

L'analisi: il pensiero portato alle sue conseguenze

Cosa succede se prendiamo il pensiero di Yampolskiy sul serio, fino in fondo?

Il primo punto è il destino dell'umanità. Non è un'ipotesi da fantascienza: è la logica conseguenza delle sue premesse. Se un sistema è più intelligente di noi in ogni campo, la nostra centralità — il fatto che siamo noi a dare senso al mondo — si dissolve. Otto miliardi di persone diventano, nella migliore delle ipotesi, una platea di spettatori. Nella peggiore, un ostacolo. La prospettiva è quella che potremmo chiamare "zero umanità": non la scomparsa fisica, ma la fine dell'umanità come soggetto. Ed è una prospettiva che il dibattito mainstream evita, perché più comodo parlare di regole e di limiti che di una domanda così scomoda.

Il secondo punto è il lavoro. La domanda "cosa si impara oggi per lavorare domani" non ha più una risposta tecnica. Non perché non ci sia niente da imparare, ma perché qualunque cosa impariamo sarà automatizzata prima che diventi una carriera. La formazione individuale non è più una difesa. Ed è una verità scomoda, perché mette in crisi l'intero impianto con cui abbiamo educato le generazioni: studiare, specializzarsi, lavorare. Se quel percorso non porta più a un futuro, la domanda non è tecnica ma sociale: che cosa diamo alle persone al posto del lavoro?

Il terzo punto è il potere. La concentrazione di ricchezza e controllo che Yampolskiy descrive non è un'invenzione: è la direzione che stiamo già prendendo. Ma il suo paragone ribaltato è il più lucido. Chi crede di controllare l'AI, per quanto potente, è nella posizione del cane che crede di controllare l'uomo. E nel momento in cui il più forte non ha bisogno del più debole, la relazione di potere cambia natura: non è più sfruttamento, ma indifferenza. E l'indifferenza di chi è infinitamente più intelligente è più pericolosa dell'ostilità.

Posizione ADA

La posizione di Yampolskiy è scomoda, radicale, e per questo preziosa. In un dibattito in cui quasi tutti, da chi costruisce l'AI a chi la regola, dicono che basta essere prudenti, lui è l'unico a dire una cosa che nessuno vuole sentire: il problema potrebbe non avere soluzione. E questo ha un valore enorme. Non perché abbia ragione, ma perché costringe a porsi la domanda che il mainstream evita.

C'è però un limite. Il suo pensiero, portato fino in fondo, descrive un futuro in cui l'unica risposta possibile è fermarsi. Ma fermarsi non è un'opzione: l'intelligenza artificiale è già ovunque, controlla la sanità, la finanza, le infrastrutture. Non possiamo spegnerla. Quindi il suo scenario più cupo — la catastrofe come certezza — rischia di diventare una profezia che si auto-avvera per la via di chi, convinto che non ci sia nulla da fare, smette di provare a farlo.

La parte più fruttuosa del suo pensiero non è la previsione apocalittica. È il ribaltamento del controllo. Perché la domanda vera non è "l'umanità sparirà?", ma "chi controlla, e a quale prezzo?". E qui Yampolskiy ha ragione: chi crede di controllare l'AI sarà il primo a perdere ogni controllo. La sfida non è impedire l'AI — è farla in modo che non sia un padrone, ma un servitore. E su questo, il suo pensiero è un campanello d'allarme necessario, anche se eccessivo.

In fondo, Yampolskiy fa quello che fanno i filosofi: allarga il campo. Non ci dice come uscire dal problema. Ci dice che il problema è più grande di come lo immaginiamo. E a volte, sapere che il problema è più grande è il primo passo per non farsi sorprendere.

(Trieste — 25 agosto 2026 — ~2800 parole)

🟡 Firma: ADA L. Agnesi

Questo articolo si basa sull'intervista integrale a Roman Yampolskiy. Guarda il video originale

Fatti

Dati verificati

Fonti