Il computer e la coscienza

Cercando altro su Internet sono capitato su questo interessante articolo, in cui si accenna ad una metodologia che è stata sviluppata al fine di misurare, tramite un apposito indice, il grado di coscienza di un individuo ("Come si misura la coscienza", Il Sole-24Ore, 13 novembre 2016). Come è scritto alla fine dell'articolo, questi studiosi del cervello giungono alla conclusione che non sarà mai possibile per una macchina di Turing raggiungere la coscienza. In pratica sostengono che un calcolatore di quelli che usiamo oggi, inventati e costruiti con l'architettura von Neumann - Turing, non potrà mai essere cosciente e lo dimostrano con una particolare analisi cui sottopongono non solo il computer ma anche gli esseri viventi. Questa analisi ha inevitabilmente veste matematica che arriva a una formulazione precisa: il substrato fisico della coscienza deve essere un massimo globale di potere causale intrinseco, composizionale, specifico e irriducibile. Non è possibile spiegare adeguatamente in poche righe cosa significhi quest'espressione convoluta, né come il metodo d'indagine ne deduca la qualità dell'esperienza (ha a che fare con la struttura del potere causale che compone l'informazione integrata). In questo periodo sto leggendo un saggio anzianotto ma molto stimolante di Hofstadter, Godel, Esher, Bach.

L'autore fornisce una serie di spiegazioni per sostenere che non esiste una differenza ontologica tra cervello e computer. Afferma che, se non si hanno particolari inclinazioni mistiche, bisogna trarne le conseguenze: qualsiasi essere umano arriverà semplicemente ai limiti della propria capacità di elaborazione: da quel momento ogni sistema formale di complessità paragonabile elaborerà con la stessa potenza di quell'essere umano. La capacità di superare le contraddizioni di un sistema formale si acquisisce soltanto uscendo dal sistema e ponendosi oltre, in un sistema di potenza superiore un po' come si osserva n ponendosi in n+1.

Personalmente non ho gli strumenti per dimostrare se le due posizioni siano vere o false, ma non avendo inclinazioni mistiche mi viene da pensare che non esiste una ragione "ontologica" per la quale sia impossibile ricreare una macchina in grado di essere cosciente. Probabilmente occorrerà fare un salto al di fuori del sistema: magari progettando macchine che non siano macchine di von Neumann-Turing.

C'è da essere imbarazzati a leggere per l'ennesima volta questa storia delle macchine che non possono avere coscienza perché funzionano secondo i principi di Turing: in teoria, può una macchina di Turing passare l'omonimo test anche senza "avere coscienza"? (Ammesso e non concesso che la coscienza l'abbiano gli umani). Possiamo sbagliare così clamorosamente nell'attribuire l'intelligenza e quindi la coscienza anche a macchine sufficientemente complesse? Eppure, Turing aveva escogitato il suo test non per saggiare il livello di coscienza della macchina, bensì per simulare un umano sino al punto da non permettere ad un altro umano di distinguere la macchina dall'uomo. [Imitation game]­­ Il processo retrostante è indifferente, basta che un osservatore umano non riesca a distinguere. La macchina oggi ha già alcune capacità oltre-umane ed è del tutto verosimile che, lasciato il tempo come incognita, una macchina oltre-umana incominci anche ad assemblare informazioni in modo tale da superare l'uomo non solo per memoria, velocità, capacità di rilevare e ordinare dati, volare, correre su ruote o cingoli o cuscini d'aria, ecc. ecc. ecc. La capacità di simulare i processi che chiamiamo "di pensiero" è già molto avanti, e se il trend continua con questa curva di efficienza (e continua di sicuro) fra poco avremo delle macchine di Turing che non solo vincono a scacchi ma conversano con il giocatore umano senza che questi si accorga di nulla. È vero che probabilmente le macchine non potranno avere un cervello paragonabile a quello biologico. Ma chi ha stabilito che dovranno per forza avere un cervello siffatto quando già adesso lo superano in molte delle cose per cui le abbiamo progettate? Un'ultima cosa: se la coscienza esistesse e fosse una cosa misurabile, non sarebbe quello che costoro dicono che sia; la macchina per misurare la coscienza dovrebbe avere una complessità superiore a ciò che misura. Appunto n+1 che misura n. È vero che nella metrologia, teoria della misura, è ben conosciuto il paradosso degli strumenti di misurazione: per misurare tolleranze di un decimo di millimetro occorre qualcosa di più fine, ad esempio uno strumento preciso al centesimo. Ma chi ha potuto costruire lo strumento che misura il centesimo, se chi misura ha a disposizione solo strumenti precisi al decimo? Non c'è niente da fare: se gli scienziati citati dal Sole-24Ore dicono di aver misurato il grado di coscienza di qualcuno o di qualcosa, e lo dimostrano, occorrerà cambiare completamente il nostro radicato punto di vista sulle relazioni che abbiamo con le macchine. Perché per misurare la coscienza di un uomo non ci vuole soltanto una macchina e un programma, ci vuole coscienza.

Rivista n. 43