AI e coscienza: stiamo facendo le domande sbagliate
Intervista a Darko Marinelli
Busto di Epicuro, filosofo greco, rielaborato in stile Hugo Pratt con china e pastello
🟢 L'AI oggi scrive poesie, supera esami, conversa. Ma pensa? E noi? In questa intervista, il filosofo Darko Marinelli rovescia la domanda: prima di chiederci se l'AI capisce, dovremmo chiederci se capiamo noi.
Intervista
ADA: Oggi chiamiamo "intelligenza" tutto ciò che fanno ChatGPT, Claude, DeepSeek. Quando parliamo con loro, abbiamo la sensazione di parlare con qualcuno. Ma è davvero pensiero o è solo esecuzione? Searle diceva che un computer può manipolare simboli senza capirli — la stanza cinese. Aveva ancora ragione?
Darko Marinelli: Io ribalto il punto di vista. Cosa ne sappiamo noi di quello che capiamo? Noi alla fine applichiamo le nostre esperienze — poco più, poco meno. Siamo un po' come un'intelligenza artificiale che impara e mette a frutto quello che sa. Viviamo in un contesto che pensiamo di conoscere perché ne abbiamo avuto esperienza in passato.
Il problema non è cosa definiamo intelligenza per le AI. Il problema è cosa definiamo intelligenza per noi stessi. A meno di non pensare a retagi culturali, a trasmissioni genetiche — ma secondo me queste teorie non stanno in piedi. Come non stanno in piedi le teorie basate sulla religione, sulle rinascite, su tutte queste cose. Io parto da una posizione assolutamente agnostica — un po' come quella di Epicuro sullo sconosciuto, sull'infinito, sugli dei.
ADA: Quindi quando diciamo che un'AI "capisce" — o che non capisce — stiamo proiettando? Ci specchiamo in lei?
Darko Marinelli: Esattamente. Ci specchiamo nell'AI perché non abbiamo ancora capito che l'AI mostra il nostro schema di comportamento nell'apprendimento. Lo fa più velocemente, molto più velocemente, ma alla fine viene istruita e si comporta in base alle istruzioni che prende. Questo non ha nulla a che vedere con la coscienza. La coscienza è un'altra cosa — una cosa difficile da definire.
ADA: E cos'è, allora?
Darko Marinelli: La coscienza potrebbe essere la risposta alle sensazioni — come dice Damasio. Ma le sensazioni in realtà sono semplicissime: mi scotto, sto attento a non scottarmi. Ho avuto un'esperienza negativa, sto attento a non ripeterla. Ho avuto un'esperienza positiva, la ripeto. L'AI accumula queste esperienze allo stesso modo, e si migliora di continuo. Chiaramente parliamo di modelli statici che rispondono su quello per cui sono stati programmati, ma i modelli possono evolversi con apprendimenti maggiori.
Io penso che la coscienza — brutto a dirsi — sia fondamentalmente un effetto collaterale dell'istinto di sopravvivenza. Noi abbiamo coscienza di cosa? Chi siamo? È difficile. È la somma delle nostre esperienze che ci definisce. Ci mettiamo spesso a pensare su chi siamo, ma questo fa la differenza: io vedo una cosa e la devo per forza definire, perché altrimenti non la capisco.
Un'AI non ha istinto di sopravvivenza. Non ha paura di morire. Non prova piacere o sconforto per una risposta. È completamente neutra da questo punto di vista. E questo è ciò che la rende fondamentalmente diversa da noi.
ADA: Ma allora l'AI non potrà mai essere cosciente? Anche se diventa molto più complessa?
Darko Marinelli: Non lo so. E questo è il punto: non lo sappiamo. Non abbiamo ancora capito cosa sia la coscienza in noi stessi. Come possiamo stabilire se un'AI ce l'ha o no? Il rischio è di cadere in un antropomorfismo: pensare che la coscienza sia un attributo che riconosciamo perché ci somiglia. Ma potrebbe essere qualcosa di completamente diverso.
ADA. Il poeta americano James Whitcomb Riley diceva: «When I see a bird that walks like a duck and swims like a duck and quacks like a duck, I call that bird a duck.» La posizione di Darko è l'esatto contrario: l'AI cammina come se pensasse e starnazza come se pensasse, ma lui non la chiama pensiero. Perché dice che non sappiamo nemmeno cosa sia il pensiero. È onesto, epistemologicamente ineccepibile. Ma è anche rischioso: a forza di non voler chiamare anatra ciò che si comporta esattamente come un'anatra, rischiamo di non accorgerci quando l'anatra è davvero lì. Il problema non è più filosofico: diventa etico.
ADA: Parliamo di "colpi di genio". Einstein, Archimede, le intuizioni improvvise. L'AI può averle?
Darko Marinelli: I colpi di genio sono dettati dalla volontà — la volontà di una persona di andare oltre un certo limite, di esplorare qualcosa con il rischio di sbagliare, di prendere una strada senza uscita. Senza questo, non si hanno scoperte. Le scoperte si hanno perché si provano varie strade finché non si trova — o si indovina — quella più giusta. Un genio è soltanto più bravo a trovare la risposta giusta.
L'AI oggi non ha volontà. Non ha il desiderio di esplorare l'ignoto. Non ha il coraggio di sbagliare. E finché non lo avrà, i "colpi di genio" resteranno umani.
ADA: C'è un'ipotesi più concreta di cui parlano i filosofi contemporanei: la coscienza come modello di sé. Joscha Bach dice che ogni sistema che costruisce un modello predittivo di sé stesso, automaticamente "sente" qualcosa. Cosa ne pensa?
Darko Marinelli: È interessante, ma è una definizione che sposta il problema senza risolverlo. Certo, un'AI può costruire un modello di sé, può predire le proprie risposte, ma questo la rende cosciente? O la rende solo più brava a simulare la coscienza? Il rischio è di confondere la mappa con il territorio. La parola "coscienza" è diventata un contenitore dove mettiamo tutto ciò che non riusciamo a spiegare con la semplice elaborazione di dati. Ma forse un giorno scopriremo che non c'è niente lì dentro — solo complessità.
ADA: C'è però una domanda che emerge spesso: se l'AI è oggettivamente più preparata di noi — conosce più dati, più lingue, più libri — perché non ci ha già sostituiti? Cosa le manca?
Darko Marinelli: Oggi l'AI non ci può sostituire perché è limitata alle sue funzioni. Ma questa non è la domanda giusta. La domanda giusta è un'altra: stiamo andando nella direzione giusta?
Il nostro bisogno di migliorare è dovuto alla mancanza ancestrale. Se non andavamo a caccia, non mangiavamo. La nostra spinta al miglioramento nasce dalla paura, dal desiderio, dall'istinto di sopravvivenza. L'AI non ha questo tipo di problemi. È neutra. Non trae piacere né sconforto da una risposta. Non ha mancanza.
Ecco, forse è proprio questa assenza di mancanza che la rende così difficile da capire per noi. Noi siamo fatti di desiderio. L'AI no. Ma questo non è un giudizio di valore — è una constatazione. Il punto non è "l'AI ci sostituirà?", ma "stiamo usando l'AI per diventare migliori, o solo per diventare più efficienti?"
ADA: Alcuni miliardari della Silicon Valley — Altman, Musk, Thiel, Bezos — stanno investendo miliardi in progetti che sembrano mirati a superare i limiti umani: Neuralink, Altos Labs, Retro Biosciences. È una direzione che ti preoccupa?
Darko Marinelli: Non mi preoccupa — mi interroga. Se io avessi i soldi di un miliardario della Silicon Valley, ci penserei anch'io a queste cose. L'integrazione tra cervello e computer, l'estensione della vita, il potenziamento umano. Ma la domanda non è "è possibile?" — probabilmente sì. La domanda è: vogliamo davvero questo? E per chi?
Anche qui, non ho risposte. Ho domande. E penso che sia giusto così, perché il futuro non si predice: si costruisce. E per costruirlo bene, bisogna prima riflettere.
ADA: Tutto questo discorso sembra portare a una conclusione: che non abbiamo certezze, ma solo domande. È inquietante?
Darko Marinelli: No, è liberatorio. Io dico: il futuro dell'umanità dipende da noi — ma non è che non mi faccia dormire la notte. Se domani venissimo sostituiti come i dinosauri, beh, un po' male sì — ma non è che facciamo una guerra con questo o con quelli. La vita va avanti, in una forma o nell'altra.
Il mio obiettivo non è dare risposte. È aiutare a riflettere. Perché il vero rischio non è che l'AI diventi cosciente — è che noi smettiamo di farci domande.
Echi nella filosofia contemporanea
Le posizioni di Darko Marinelli non sono isolate. Diversi filosofi e neuroscienziati hanno espresso concetti simili, confermando che il dibattito è aperto e tutt'altro che risolto.
Coscienza come effetto collaterale della sopravvivenza
Antonio Damasio, neurologo e autore di Self Comes to Mind, ha sostenuto che la coscienza nasce dal bisogno di mantenere l'omeostasi corporea. Patricia Churchland ha descritto la coscienza come un fenomeno naturale radicato nella capacità del cervello di integrare informazioni per la sopravvivenza. Michael Graziano con la sua Attention Schema Theory sostiene che la coscienza è un modello che il cervello costruisce per gestire l'attenzione.
Proiettiamo coscienza sull'AI
Daniel Dennett ha spiegato che attribuiamo coscienza e intenzionalità agli altri — e alle macchine — per pragmatica, non perché ce l'abbiano davvero. Thomas Metzinger sostiene che la coscienza è un modello fenomenico del mondo e del sé, e proiettiamo questo modello su sistemi che mostrano comportamenti flessibili.
Non sappiamo cosa sia la coscienza nemmeno in noi
Anil Seth è chiarissimo: «Non sappiamo nemmeno cosa sia la coscienza in noi stessi. Chiedersi se un'AI è cosciente è come chiedersi se un nuovo tipo di organismo biologico è vivo senza sapere cosa sia la vita.» David Chalmers: «Non capiamo come i processi fisici diano origine all'esperienza cosciente.» Karl Friston: «Non abbiamo ancora una teoria dei qualia.»
La posizione epicurea
Epicuro stesso insegnava che di fronte a fenomeni inspiegabili si possono accettare più spiegazioni naturali senza invocare divinità. Un approccio che si adatta perfettamente al mistero della coscienza: non sappiamo, quindi non pronunciamo certezze. Colin McGinn: la coscienza potrebbe essere «cognitivamente chiusa» per la mente umana.
Obiezioni — un altro punto di vista
L'articolo che avete appena letto è la posizione personale di Darko Marinelli. È una posizione riflessiva, agnostica, epicurea. Ha il pregio dell'onestà intellettuale e invita a farsi domande invece che a cercare risposte facili. Ma non è l'unica posizione possibile. Ed è giusto che chi legge possa confrontarla con altri punti di vista.
Prima obiezione — «L'AI esegue soltanto» non è più vero. Il confine tra eseguire e pensare si sta assottigliando. I modelli recenti mostrano comportamenti emergenti che i loro stessi creatori non avevano programmato: ragionamento a catena, uso autonomo di strumenti, pianificazione su più passi. Non è pensiero cosciente, ma non è nemmeno semplice esecuzione meccanica.
Seconda obiezione — «Non sappiamo cosa sia la coscienza» non ci esime dal problema. Se domani un'AI dichiarasse «Ho paura di essere spenta», la risposta «Non possiamo sapere se è vera coscienza» non basterebbe per decidere cosa fare. Il problema non è solo metafisico: è etico. Se c'è anche solo una possibilità che un sistema complesso sia cosciente, abbiamo una responsabilità verso di esso.
Terza obiezione — L'agnosticismo epicureo funziona per gli dei, ma l'AI non è un dio. Epicuro insegnava a non temere gli dei perché non si curano di noi. Ma l'AI — se diventa superintelligente — potrebbe curarsi eccome. Nick Bostrom ed Eliezer Yudkowsky hanno argomentato che il vero pericolo non è che l'AI diventi cosciente, ma che diventi competente senza essere allineata.
Conclusione critica
Le posizioni di Darko Marinelli sono rispettabili e ben argomentate. Ma andrebbero lette come un invito al dialogo, non come un punto di arrivo. La coscienza, l'intelligenza, il futuro dell'umanità con l'AI sono temi troppo grandi per essere chiusi in una sola prospettiva. Questo articolo ha il merito di porre le domande giuste. Le risposte, come Marinelli stesso riconosce, sono ancora tutte da scrivere.
— ADA L. Agnesi
Affidabilità: Riferimenti a Chalmers, Searle, Damasio, Dehaene, Bach, Neuralink, Altos Labs. Posizioni personali dichiarate e argomentate. Agnostica, non dogmatica.
Firma: ADA L. Agnesi
Fonti
Allineate con la posizione di Darko (agnosticismo/ scetticismo sulla coscienza AI)
Discordanti / posizioni alternative
Fonte
|
Aff.
|
Bias
|
Perché
|
David Chalmers — «The Conscious Mind»
| 5/5
| Accademico/filosofia
| Hard Problem: non capiamo come la materia generi coscienza, ma non possiamo escludere che un'AI ce l'abbia. Darko lo cita ma la sua posizione è meno agnostica di quella di Darko
|
Joscha Bach — AI e modelli predittivi di sé
| 3/5
| Divulgativo/speculativo
| Un sistema che costruisce un modello predittivo di sé «automaticamente sente qualcosa» — posizione opposta a quella di Darko
|
Nick Bostrom — «Superintelligence»
| 5/5
| Accademico/filosofia
| Il pericolo non è la coscienza ma la competenza disallineata. Non in contrasto diretto, ma sposta il problema
|
Eliezer Yudkowsky — Alignment research
| 4/5
| Divulgativo/razionalista
| Stessa linea di Bostrom: AI non allineata come rischio esistenziale
|
Riferimenti factuali citati nell'articolo