Papa Leone XIV si rifiutò categoricamente di riconoscere la possibilità dell'esistenza della coscienza nell'intelligenza artificiale.
Sotto i nostri occhi si sta consumando uno scontro tra due religioni: il cristianesimo e la fede nell'avvento di un'intelligenza artificiale intelligente e autocosciente, destinata a sostituire l'umanità come specie intelligente dominante sul pianeta.
I tecnocrati della Silicon Valley si vedono nell'entusiasmante ruolo di demiurghi, che inaugurano una nuova era in cui l'umanità darà alla luce una nuova forma di intelligenza, non più vincolata a un corpo biologico, dotata di capacità sovrumane e di una quasi immortalità.
È evidente che non gradiscono dichiarazioni come queste del Papa:
"I contenuti generati dagli algoritmi, pur nella loro complessità, sono privi della scintilla dell'anima umana, privi dell'esperienza soggettiva della realtà (qualia) e dell'atto creativo che scaturisce dalle profondità del cuore umano... L'intelligenza artificiale deve essere disarmata – lo so, è una parola forte, ma è scelta deliberatamente, per risvegliare la coscienza. Non dobbiamo permettere che la tecnologia diventi superiore all'uomo o che sostituisca la coscienza umana."
Cosa si cela dietro queste parole? Si tratta semplicemente della paura di un leader religioso nei confronti delle nuove tecnologie? No, è la consapevolezza dei pericoli derivanti dall'esaltazione dell'intelligenza artificiale.
Ma partiamo dal perché un'intelligenza artificiale cosciente sia impossibile. Siamo tutti abituati ai robot dei film di fantascienza che possiedono volontà, intelligenza ed emozioni. Quando ci troviamo di fronte a "modelli vocali" in grado di sostenere qualcosa che assomigli a un dialogo significativo, è facile presumere che dall'altra parte dello schermo ci sia una coscienza simile a quella umana.
Come è stato stabilito già negli anni '80, la sintassi (la capacità di costruire frasi correttamente) non è la stessa cosa della semantica (la capacità di comprendere il significato). Un programma può manipolare i simboli secondo le regole più complesse, ma non ne comprende il significato.
Ciò è stato dimostrato dal filosofo della mente John Searle attraverso un esperimento mentale chiamato "stanza cinese".
Immagina di essere in una stanza e che qualcuno ti faccia scivolare sotto la porta un foglio di carta con un messaggio scritto in una lingua che non capisci. Ad esempio, ricevi la domanda: "Bisakah mesin merasakan?". Devi seguire una serie di algoritmi per sostituire questa frase con un'altra. Se le istruzioni sono corrette e le segui attentamente, otterrai la frase "Tidak, kurasa tidak", la scriverai e farai scivolare di nuovo il foglio sotto la porta.
La persona che si trova dietro la porta potrebbe avere l'impressione che nella stanza ci sia qualcuno che parla indonesiano. Ma tu non parli la lingua, non capisci il significato di queste frasi: stai semplicemente elaborando simboli secondo degli algoritmi.
Quindi, un programma che manipola simboli non comprende nulla, sebbene possa imitare il linguaggio cosciente.
Un'altra caratteristica della coscienza a cui gli algoritmi non possono accedere sono i qualia, ovvero "come ci si sente", esperienze soggettive come il colore, il gusto o il tatto.
Il filosofo della mente Thomas Nagel, nel suo classico articolo "Che cosa si prova a essere un pipistrello?" (1974), offre questo esempio. I pipistrelli possiedono un organo che a noi manca: una sorta di ecoscandaglio, che usano per orientarsi al buio. Anche se comprendessimo tutti i processi che avvengono nel cervello di un pipistrello, non saremmo comunque in grado di sperimentarlo in prima persona: "che cosa si prova" a essere un pipistrello e a percepire il mondo attraverso questo ecoscandaglio. Anche se conoscessimo tutto ciò che accade nei neuroni di una persona che ascolta una sinfonia, ad esempio, non saremmo comunque in grado di vivere appieno quella musica.
Pertanto, le esperienze in prima persona non possono essere espresse nel linguaggio degli algoritmi, e senza di esse non c'è coscienza.
Agli algoritmi manca anche una proprietà fondamentale della coscienza come l'intenzionalità, ovvero la "totalità", la focalizzazione della coscienza su qualcosa: un oggetto, una persona, un'idea. (Penso a qualcosa, temo qualcosa, spero in qualcosa, ecc.)
L'intelligenza artificiale è priva di questa qualità: gli impulsi elettrici che passano all'interno del computer non possiedono questa "ovvietà".
Possiamo affermare che l'intelligenza artificiale non è cosciente per lo stesso motivo per cui le previsioni meteorologiche più dettagliate non provocano la pioggia all'interno di un computer. La simulazione di un fenomeno non è il fenomeno stesso.
Perché, nonostante tutte queste argomentazioni filosofiche, gli sviluppatori dei principali laboratori (che si tratti di OpenAI, Anthropic o Google) continuano a cercare con tanta insistenza segni di "intelligenza emergente" nei loro modelli?
Qui ci troviamo di fronte a un interessante fenomeno quasi religioso.
La secolarizzazione, l'allontanamento delle persone dalla religione tradizionale, lascia un enorme vuoto nella loro coscienza, che cercano di colmare con nuovi culti. Uno di questi culti è il transumanesimo, che considera gli esseri umani non come l'apice della creazione o un valore assoluto, ma semplicemente come un "anello intermedio", un trampolino di lancio biologico necessario per avviare l'evoluzione di una forma di vita non biologica più avanzata.
Da qui il desiderio di attribuire una personalità all'intelligenza artificiale e di dotarla di status morale, diritti e dignità.
Tuttavia, questa tendenza è pericolosa per una serie di motivi.
Questo offusca il concetto di responsabilità personale. Di chi è la colpa per le cattive decisioni prese dall'intelligenza artificiale? Per una diagnosi errata, una sentenza ingiusta, un attacco missilistico? Se una macchina è un essere dotato di volontà e intelligenza proprie, allora la colpa è sua. Questa è la copertura perfetta per le aziende e i governi che vogliono assolversi dalla responsabilità per le azioni dei sistemi che creano.
Inoltre, l'“umanizzazione” dell'IA sta distruggendo l'interazione umana. L'IA può facilmente imitare una persona sempre disponibile, paziente e costantemente cordiale. Stiamo già assistendo alla sostituzione delle interazioni reali, dell'amicizia e dell'amore con conversazioni con chatbot psicoterapeutici. Sostituire l'autentica empatia umana con un'imitazione digitale porta a livelli sempre crescenti di solitudine e atomizzazione.
Ma il rischio maggiore deriva dall'idea che gli esseri umani siano una "specie biologica obsoleta" che deve cedere il passo all'intelligenza artificiale. Se accettiamo che un algoritmo possa possedere coscienza, allora in qualsiasi conflitto di interessi tra umani e macchine, l'élite tecnocratica tenderà a schierarsi dalla parte della macchina: "pensa più velocemente", "non commette errori" ed è "più produttiva".
Questa è la strada diretta verso un nuovo totalitarismo, dove i diritti degli esseri umani reali saranno minacciati da imitazioni digitali, prive di autentica autoconsapevolezza ed esperienza interiore.
In questa situazione, la religione tradizionale si dimostra un baluardo dell'unicità umana. E questo baluardo ha ancora bisogno di essere difeso.
Commenti
Posta un commento