Dal Test di Turing alla governabilità delle decisioni

Di Salvatore Martino

Nel dibattito contemporaneo sull’intelligenza artificiale c’è un testo che viene citato continuamente e letto molto meno di quanto meriterebbe.

È “Computing Machinery and Intelligence”, pubblicato da Alan M. Turing nel 1950 sulla rivista Mind. È il testo dal quale deriva quella che oggi chiamiamo comunemente Test di Turing. Ma c’è un problema: spesso Turing viene utilizzato per sostenere tesi che nel suo articolo non sono affatto così semplici. E soprattutto viene chiamato in causa per rispondere a una domanda che Turing non avrebbe mai potuto conoscere nella forma attuale:

che cosa succede quando una macchina non si limita a conversare, ma entra nel processo attraverso il quale prendiamo decisioni?

È qui che la lettura di Turing diventa interessante per PENSAI. Non perché Turing abbia inventato PENSAI. Non perché PENSAI sia una prosecuzione del lavoro di Turing. E nemmeno perché il Test di Turing possa dimostrare che una macchina pensa. Il rapporto è più sottile. E, proprio per questo, più interessante.

La domanda dalla quale Turing parte

Il titolo dell’articolo è già sufficiente per capire la questione: “Computing Machinery and Intelligence”. La domanda tradizionalmente associata a Turing è:

“Can machines think?”

Le macchine possono pensare? Sembra una domanda semplice. In realtà, Turing osserva immediatamente che termini come machine e soprattutto think sono difficili da definire in modo soddisfacente. Se si comincia a discutere sul significato esatto di “pensare”, la discussione rischia di diventare interminabile.

Turing propone quindi una soluzione metodologica. Non cerca innanzitutto una definizione filosofica universale del pensiero. Propone invece di trasformare la questione in un problema osservabile. Nasce così il gioco dell’imitazione.

Il gioco dell’imitazione

Nel gioco originale ci sono tre partecipanti: un uomo, una donna e un interrogatore. L’interrogatore comunica attraverso messaggi scritti e deve stabilire quale dei due partecipanti sia l’uomo e quale la donna. Turing propone di sostituire uno dei partecipanti con una macchina. La domanda diventa allora operativa:

può una macchina comportarsi in modo tale da rendere difficile all’interrogatore distinguerla dall’essere umano?

È questa trasformazione che ha reso celebre l’articolo. Ma qui nasce anche uno dei più grandi equivoci successivi.

Il Test di Turing non è una macchina filosofica capace di dimostrare l’esistenza del pensiero.

È un criterio comportamentale. Osserviamo ciò che accade nell’interazione e valutiamo la capacità della macchina sulla base del comportamento prodotto.

Questo è molto diverso dall’aver dimostrato che dentro la macchina esista qualcosa equivalente all’esperienza mentale umana.

Turing non dice semplicemente: “sembra intelligente, quindi è intelligente”

Questa è una semplificazione frequente. La lettura dell’articolo mostra qualcosa di più complesso. Dopo aver introdotto il gioco dell’imitazione, Turing affronta una lunga serie di obiezioni. Discute il problema della coscienza. L’obiezione matematica.

L’argomento della Lady Lovelace. La capacità delle macchine di sorprendere. L’apprendimento. Le differenze tra programmi e cervello umano.

La possibilità di costruire macchine capaci di modificare il proprio comportamento attraverso l’esperienza.

In altre parole, Turing non sta semplicemente dicendo:

“Non chiediamoci più se le macchine pensano.”

Sta cercando un modo diverso per affrontare una domanda estremamente difficile.

La distinzione è fondamentale.

Ed è qui che entra PENSAI

PENSAI non nasce per rispondere alla domanda: “Una macchina pensa?” Non nasce neppure per stabilire se un sistema di intelligenza artificiale sia intelligente.

La sua domanda è differente:

“Una decisione può essere governata?”

Sembra una differenza linguistica. Non lo è. È una differenza strutturale. Turing si occupa principalmente del rapporto tra macchina, comportamento e intelligenza.

PENSAI si occupa del rapporto tra informazione, alternative, rischio, decisione e controllo.

Il confronto può essere rappresentato così:

La differenza non è marginale.

È il cuore del confronto.

Il Test di Turing non è un Test di Governance

Immaginiamo una macchina capace di superare brillantemente un test conversazionale. Risponde velocemente. Comprende il contesto.

• Argomenta.
• Persuade.
• Riconosce le obiezioni.
• Produce risposte apparentemente originali.

L’interlocutore può perfino arrivare a considerarla più competente di una persona.

Ma nessuno di questi elementi risponde automaticamente a una domanda diversa:

possiamo affidarle una decisione?

Questa domanda introduce variabili che appartengono a un altro livello. Quali informazioni sono state utilizzate? Quali alternative sono state considerate? Quali sono state eliminate? Quali assunzioni sono state fatte? Qual è il livello di incertezza? Qual è il rischio? Che cosa accade se la decisione è sbagliata? Esiste una condizione di STOP? Chi può intervenire? La decisione può essere ricostruita successivamente? Chi ha l’autorità per assumerla? Il superamento del Test di Turing non risponde a queste domande. E non è una critica a Turing.

È semplicemente riconoscere che il problema è diverso.

La parte di Turing che oggi rischiamo di dimenticare

C’è però un elemento dell’articolo che rende Turing sorprendentemente contemporaneo. Turing affronta il problema delle learning machines, le macchine capaci di apprendere. È una questione fondamentale. Una macchina che apprende non è più semplicemente un dispositivo nel quale ogni comportamento futuro è stato esplicitamente scritto in anticipo.

L’apprendimento introduce una relazione più complessa tra programma, esperienza e comportamento.

Ed è qui che il pensiero di Turing diventa interessante anche per il problema della governance. Perché una macchina capace di apprendere può produrre comportamenti che il progettista non ha previsto nella loro forma concreta. La questione non è quindi soltanto:

“Che cosa abbiamo programmato?”

Diventa:

“Che cosa può accadere quando il sistema opera in un ambiente che non possiamo descrivere completamente in anticipo?”

È una domanda che nel 1950 apparteneva alla frontiera della teoria delle macchine. Oggi è diventata una questione quotidiana.

La sorpresa non è necessariamente un errore

Questo è un punto particolarmente importante.

Quando una macchina produce qualcosa che non avevamo previsto, possiamo avere almeno due interpretazioni.

La prima:

il sistema ha sbagliato.

La seconda:

il sistema ha prodotto una soluzione che non avevamo previsto.

La differenza è enorme.

Nel secondo caso la sorpresa può essere una caratteristica positiva dell’apprendimento.

Ma dal punto di vista della governance compare immediatamente un’altra domanda:

quanto deve essere libera una macchina di sorprenderci quando la sua azione produce conseguenze reali?

Qui il problema cambia.

La sorpresa può essere desiderabile nella ricerca.

Può essere utile nella creatività.

Può essere persino necessaria nell’apprendimento.

Ma non possiamo automaticamente trasferire la stessa libertà a ogni decisione ad alto impatto.

Ed è precisamente qui che PENSAI cambia piano

PENSAI non cerca di eliminare l’intelligenza artificiale dal processo decisionale. Cerca di evitare che la capacità del sistema venga confusa con l’autorizzazione a decidere. Questa distinzione può essere formulata in modo molto semplice: capacità ≠ autorizzazione.  Una macchina può essere capace di produrre una risposta.

Questo non significa che debba essere autorizzata a trasformare quella risposta in una decisione. Una macchina può individuare una soluzione. Questo non significa che quella soluzione debba automaticamente diventare la Via Unica. Una macchina può attribuire probabilità. Questo non significa che il rischio sia stato automaticamente governato.

Una macchina può essere convincente.

Questo non significa che il suo processo decisionale sia verificabile.

Il problema dell’autorità

È forse questo il punto più delicato.

Nel dibattito sull’IA spesso ci chiediamo:

“Quanto è intelligente?”

Una domanda importante.

Ma quando l’IA entra nelle decisioni reali occorre aggiungerne un’altra:

“Chi le ha dato l’autorità di decidere?”

Sono due domande completamente diverse.

Una macchina può essere più veloce di un essere umano. Può elaborare più informazioni. Può trovare correlazioni che una persona non vede. Può confrontare migliaia di alternative. Può persino produrre una risposta migliore della risposta umana media. Tutto questo non risolve il problema dell’autorità.

La competenza non coincide con il mandato.

Turing non risolve questo problema

Ed è importante dirlo senza forzature. Non bisogna trasformare Turing in ciò che non è. Il suo articolo non è un trattato sulla governance dell’intelligenza artificiale.

Non propone una metodologia di gestione del rischio. Non introduce una teoria dell’audit decisionale. Non definisce una gerarchia tra macchina e decisore umano.

Non introduce il concetto di STOP come controllo di governance. Pertanto sarebbe scorretto affermare:

“Turing aveva già previsto PENSAI.”

Non abbiamo motivo per sostenerlo.

Ma sarebbe altrettanto riduttivo affermare che Turing non abbia nulla da dire al problema.

La sua lezione metodologica rimane importante.

Dalla domanda filosofica al criterio operativo

È probabilmente questo il punto di contatto più serio. Turing osserva che una domanda come: “Le macchine pensano?” presenta difficoltà semantiche enormi.

La sua risposta è costruire una situazione nella quale la questione possa essere affrontata attraverso un criterio osservabile. PENSAI opera su un problema differente.

Anche qui una formulazione generica come:

• “Qual è la decisione migliore?”
• può essere insufficiente.
• Migliore rispetto a che cosa?
• Con quali informazioni?
• Rispetto a quali alternative?
• Con quale rischio?
• Con quale priorità?
• Con quale margine di errore?
• Con quali conseguenze?
• E soprattutto:
• chi decide che quella è la decisione migliore?

La trasformazione metodologica è quindi simile, ma il contenuto è diverso.

La vera differenza: dal comportamento alla decisione

Possiamo sintetizzare il confronto in una sola sequenza.

Turing:

problema ambiguo → criterio osservabile → valutazione del comportamento.

PENSAI:

problema complesso → normalizzazione → alternative → filtro → valutazione → Via Unica → controllo.

Non sono lo stesso metodo.

Non hanno lo stesso obiettivo.

Non rispondono alla stessa domanda.

Ma condividono una intuizione metodologica:

un problema complesso non diventa più risolvibile semplicemente rendendo più sofisticata la risposta; occorre prima definire che cosa si sta effettivamente valutando.

Una macchina può essere intelligente e tuttavia non essere governabile

Questa è forse la conclusione più importante che possiamo trarre dal confronto.

Non è necessario negare l’intelligenza delle macchine per sostenere che l’intelligenza non sia sufficiente alla governance.

Anzi.

Più una macchina diventa capace, più questa distinzione diventa importante.

Se un sistema produce risposte banali, il problema decisionale è limitato.

Se produce risposte estremamente sofisticate, il rischio può aumentare proprio perché l’essere umano tende ad attribuirgli maggiore autorevolezza.

La questione diventa quindi:

quanto siamo disposti a delegare a un sistema perché ci appare intelligente?

E questa è una domanda che il Test di Turing non può risolvere.

Non perché sia un test debole.

Ma perché non è stato progettato per questo.

La trappola della persuasione

C’è inoltre un problema contemporaneo che nel 1950 assumeva una forma molto diversa. Una macchina capace di imitare efficacemente l’essere umano può diventare persuasiva. Ma persuasione e correttezza non coincidono. Una risposta convincente può essere falsa. Una spiegazione elegante può essere incompleta.

Un ragionamento apparentemente rigoroso può partire da un presupposto errato. Un sistema può quindi risultare estremamente efficace nel sembrare competente senza che questo costituisca una prova sufficiente della qualità della decisione.

Per PENSAI questo significa che la qualità percepita della risposta non può sostituire il controllo del processo.

E allora: Turing aveva ragione?

La risposta più rigorosa è: sì, ma non nel modo in cui viene spesso raccontato. Turing aveva ragione nel riconoscere che la domanda “le macchine pensano?” è difficile da utilizzare come criterio sperimentale diretto. Aveva ragione nel cercare una formulazione operativa. Aveva ragione nel prendere sul serio l’apprendimento delle macchine.

Aveva ragione nel prevedere che molte obiezioni avrebbero riguardato non soltanto il calcolo, ma concetti come sorpresa, apprendimento e comportamento. Ma il suo metodo non risolve il problema della governance.

E non pretende di farlo.

E PENSAI ha ragione?

Qui la risposta deve essere ancora più prudente. Il confronto con Turing non dimostra che PENSAI sia valido. Non dimostra che PENSAI sia migliore di altri framework. Non dimostra che una metodologia deterministica sia sufficiente per governare sistemi complessi. E non dimostra che una decisione possa sempre essere ridotta a una sequenza formalizzata. Queste sarebbero conclusioni che il materiale non consente di trarre. Ciò che il confronto consente di affermare è più limitato:

PENSAI affronta una domanda diversa da quella affrontata da Turing.

E proprio questa differenza deve essere mantenuta.

La domanda che rimane

Nel 1950 la domanda era:

“Can machines think?”

Nel 2026, dopo decenni di sviluppo dell’informatica e dell’intelligenza artificiale, possiamo porci una domanda ulteriore.

Non:

“La macchina pensa?”

ma:

“Che cosa siamo disposti a far decidere a una macchina?”

E ancora: “Con quali condizioni?” “Con quale controllo?” “Con quale possibilità di fermarla?” “Con quale responsabilità?” Queste domande non hanno bisogno che una macchina sia cosciente. Non hanno bisogno nemmeno che sia intelligente nel senso filosofico del termine. Sono domande di governance.

Ed è precisamente per questo che possono diventare più urgenti quanto più le macchine diventano capaci.

Non è Turing contro PENSAI

Il confronto corretto, quindi, non è:

Turing contro PENSAI.

E neppure:

Turing come padre di PENSAI.

È qualcosa di molto più semplice.

Turing ci ha lasciato una lezione fondamentale:

quando una domanda è troppo ambigua, bisogna trovare un modo rigoroso per trasformarla in un problema osservabile.

PENSAI prova a fare questo in un altro territorio:

quando una decisione è troppo complessa, bisogna trasformarla in un processo nel quale alternative, vincoli, rischio e condizioni di controllo siano espliciti.

La prima operazione riguarda l’intelligenza attribuita alla macchina. La seconda riguarda la decisione affidata alla macchina. Confonderle significa perdere il punto.

Separarle permette invece di capire perché il vecchio articolo del 1950 continui a essere sorprendentemente attuale.

La conclusione di PENSAI

Forse la lezione più utile che possiamo ricavare oggi da Turing non è stabilire finalmente se le macchine pensino. È smettere di utilizzare quella domanda come risposta a tutte le altre. Una macchina può pensare. Può non pensare. Può imitare il pensiero. Può produrre comportamenti indistinguibili, in determinate condizioni, da quelli umani. Tutto questo può continuare a essere oggetto di discussione filosofica, scientifica e tecnologica. Ma quando una macchina entra dentro una decisione reale compare un’altra responsabilità. Non basta chiedersi quanto è intelligente. Dobbiamo chiederci:

quanto è governabile ciò che le permettiamo di fare?

Questa non è una risposta di Turing.

È una domanda del nostro tempo.

Ed è precisamente nel tentativo di formulare quella domanda in modo strutturato che PENSAI trova il proprio spazio.

Non come erede di Turing.

Non come suo correttivo.

Ma come risposta a un problema che Turing, semplicemente, non aveva come obiettivo principale affrontare.

Nota metodologica

Questo articolo distingue deliberatamente tra ciò che Turing sostiene nel suo testo del 1950 e ciò che viene interpretato oggi alla luce dell’intelligenza artificiale contemporanea. Il confronto con PENSAI è quindi analitico e non genealogico: non sostiene una derivazione storica di PENSAI dal lavoro di Turing.

Fonte primaria: Alan M. Turing, Computing Machinery and Intelligence, Mind, Vol. 59, No. 236, 1950, pp. 433–460. Testo dell’articolo su Oxford Academic

Questo articolo non costituisce consulenza tecnica, legale, medica o finanziaria. PENSAI è qui analizzato come framework metodologico e non come sistema di intelligenza artificiale.

Hyłf Göt!

Ecco il testo di Touring

Turing, AM (1950). Macchine calcolatrici e intelligenza. Mind, 59, 433-460.

MACCHINE CALCOLANTI E INTELLIGENZA

di A.M. Turing

 

1. Il gioco dell’imitazione

Propongo di affrontare la domanda: “Le macchine possono pensare?”. Si dovrebbe iniziare definendo il significato dei termini “macchina” e “pensare”. Le definizioni potrebbero essere formulate in modo da riflettere, per quanto possibile, l’uso comune delle parole, ma questo approccio è rischioso. Se si cerca di ricavare il significato di “macchina” e “pensare” esaminando il loro utilizzo comune, è difficile sfuggire alla conclusione che il significato e la risposta alla domanda “Le macchine possono pensare?” vadano ricercati in un’indagine statistica come un sondaggio Gallup. Ma questo è assurdo. Invece di tentare una simile definizione, sostituirò la domanda con un’altra, strettamente correlata e formulata in termini relativamente inequivocabili.

La nuova formulazione del problema può essere descritta in termini di un gioco che chiamiamo “gioco dell’imitazione”. Vi partecipano tre persone: un uomo (A), una donna (B) e un interrogatore (C), che può essere di entrambi i sessi. L’interrogatore si trova in una stanza separata dagli altri due. L’obiettivo del gioco per l’interrogatore è determinare chi tra gli altri due è l’uomo e chi è la donna. Li identifica con le etichette X e Y e, alla fine del gioco, può affermare “X è A e Y è B” oppure “X è B e Y è A”. L’interrogatore può porre ad A e B le seguenti domande:

C: X potrebbe dirmi, per favore, la lunghezza dei suoi capelli?

Supponiamo ora che X sia in realtà A, allora A deve rispondere. L’obiettivo di A nel gioco è cercare di indurre C a fare l’identificazione errata. La sua risposta potrebbe quindi essere:

“Ho i capelli scalati e le ciocche più lunghe raggiungono circa ventitré centimetri.”

Affinché il tono della voce non possa aiutare l’interrogatore, le risposte dovrebbero essere scritte, o meglio ancora, dattiloscritte. La soluzione ideale sarebbe quella di utilizzare un telescrivente per comunicare tra le due stanze. In alternativa, domande e risposte possono essere ripetute da un intermediario. L’obiettivo del terzo giocatore (B) è aiutare l’interrogatore. La strategia migliore per lei è probabilmente quella di dare risposte veritiere. Può aggiungere frasi come “Sono una donna, non dategli retta!” alle sue risposte, ma non servirà a nulla poiché anche l’uomo può fare osservazioni simili.

Ora ci poniamo la domanda: “Cosa succederà quando una macchina prenderà il posto di A in questo gioco?” L’interrogatore sbaglierà con la stessa frequenza quando il gioco si svolge in questo modo rispetto a quando si svolge tra un uomo e una donna? Queste domande sostituiscono la nostra domanda originale: “Le macchine possono pensare?”

2. Critica del nuovo problema

Oltre a chiedersi “Qual è la risposta a questa nuova formulazione della domanda?”, ci si può chiedere “Vale la pena indagare su questa nuova domanda?”. Quest’ultima domanda la esamineremo senza ulteriori indugi, troncando così un’infinita regressione.

Il nuovo problema ha il vantaggio di tracciare una linea di demarcazione piuttosto netta tra le capacità fisiche e quelle intellettuali di un uomo. Nessun ingegnere o chimico afferma di essere in grado di produrre un materiale indistinguibile dalla pelle umana. È possibile che un giorno ciò si possa realizzare, ma anche supponendo che tale invenzione sia disponibile, non avrebbe molto senso cercare di rendere una “macchina pensante” più umana rivestendola di una tale carne artificiale. La forma in cui abbiamo impostato il problema riflette questo fatto, in quanto la condizione impedisce all’interrogatore di vedere o toccare gli altri concorrenti, o di sentirne le voci. Alcuni altri vantaggi del criterio proposto possono essere illustrati da esempi di domande e risposte. Pertanto:

D: Per favore, scrivimi un sonetto sul tema del Forth Bridge.

A: Non contatemi su questa. Non sono mai stato capace di scrivere poesie.

D: Aggiungere 34957 a 70764.

A: (Fai una pausa di circa 30 secondi e poi dai la risposta) 105621.

D: Giochi a scacchi?

A: Sì.

D: Ho un re in K1 e nessun altro pezzo. Tu hai solo un re in K6 e un toro in R1. Tocca a te. Cosa giochi?

A: (Dopo una pausa di 15 secondi) R-R8 matto.

Il metodo delle domande e risposte sembra adatto a introdurre quasi ogni campo dell’attività umana che desideriamo includere. Non vogliamo penalizzare una macchina per la sua incapacità di brillare in un concorso di bellezza, né penalizzare un uomo per aver perso una gara contro un aeroplano. Le condizioni del nostro gioco rendono irrilevanti queste limitazioni. I “testimoni” possono vantarsi, se lo ritengono opportuno, quanto vogliono del loro fascino, della loro forza o del loro eroismo, ma l’interrogatore non può richiedere dimostrazioni pratiche.

Il gioco potrebbe forse essere criticato perché le probabilità sono troppo sfavorevoli alla macchina. Se un uomo provasse a imitare la macchina, farebbe sicuramente una pessima figura. Sarebbe smascherato immediatamente dalla lentezza e dall’imprecisione nei calcoli. Le macchine non potrebbero forse svolgere un’attività che si potrebbe definire pensiero, ma che è molto diversa da quella umana? Questa obiezione è molto forte, ma almeno possiamo affermare che, se, ciononostante, si riuscisse a costruire una macchina in grado di giocare in modo soddisfacente al gioco dell’imitazione, non dovremmo preoccuparci di questa obiezione.

Si potrebbe obiettare che, quando si gioca al “gioco dell’imitazione”, la strategia migliore per la macchina potrebbe essere diversa dall’imitazione del comportamento umano. Può darsi, ma ritengo improbabile che si verifichino effetti significativi di questo tipo. In ogni caso, non si intende qui approfondire la teoria del gioco, e si presumerà che la strategia migliore sia quella di cercare di fornire risposte che verrebbero naturalmente date da un essere umano.

3. Le macchine coinvolte nel gioco

La questione che abbiamo posto al punto 1 non sarà del tutto definita finché non avremo specificato cosa intendiamo con il termine “macchina”. È naturale che desideriamo permettere l’utilizzo di ogni tipo di tecnica ingegneristica nelle nostre macchine. Desideriamo anche ammettere la possibilità che un ingegnere o un team di ingegneri costruisca una macchina funzionante, ma il cui funzionamento non possa essere descritto in modo soddisfacente dai suoi costruttori perché hanno applicato un metodo in gran parte sperimentale. Infine, desideriamo escludere dalle macchine gli uomini nati in modo convenzionale. È difficile formulare le definizioni in modo da soddisfare queste tre condizioni. Si potrebbe, ad esempio, insistere sul fatto che il team di ingegneri debba essere composto interamente da persone dello stesso sesso, ma ciò non sarebbe realmente soddisfacente, poiché è probabilmente possibile far crescere un individuo completo a partire da una singola cellula della pelle (per esempio) di un uomo. Farlo sarebbe un’impresa di tecnica biologica degna del massimo elogio, ma non saremmo inclini a considerarla come la “costruzione di una macchina pensante”. Questo ci spinge ad abbandonare il requisito che ogni tipo di tecnica debba essere consentita. Siamo tanto più propensi a farlo in considerazione del fatto che l’attuale interesse per le “macchine pensanti” è stato suscitato da un particolare tipo di macchina, solitamente chiamata “computer elettronico” o “computer digitale”. Seguendo questo suggerimento, consentiamo la partecipazione al nostro gioco solo ai computer digitali.

A prima vista, questa restrizione appare molto drastica. Cercherò di dimostrare che in realtà non è così. Per fare ciò, è necessaria una breve descrizione della natura e delle proprietà di questi computer.

Si potrebbe anche affermare che questa identificazione delle macchine con i computer digitali, come il nostro criterio per definire il “pensiero”, risulterebbe insoddisfacente solo se (contrariamente alla mia convinzione) si scoprisse che i computer digitali non sono in grado di dare un buon contributo in questo ambito.

Esistono già diversi computer digitali funzionanti, e ci si potrebbe chiedere: “Perché non provare subito l’esperimento? Sarebbe facile soddisfare le condizioni del gioco. Si potrebbero utilizzare diversi interrogatori e compilare statistiche per mostrare con quale frequenza è stata fornita l’identificazione corretta”. In breve, non ci stiamo chiedendo se tutti i computer digitali si comporterebbero bene nel gioco, né se i computer attualmente disponibili lo farebbero, ma se esistano computer immaginabili che lo farebbero. Ma questa è solo la risposta breve. Vedremo questa questione sotto una luce diversa più avanti.

4. Computer digitali

L’idea alla base dei computer digitali può essere spiegata dicendo che queste macchine sono progettate per eseguire qualsiasi operazione che potrebbe essere svolta da un computer umano. Il computer umano dovrebbe seguire regole fisse; non ha l’autorità di discostarsene in alcun dettaglio. Possiamo supporre che queste regole siano contenute in un libro, che viene aggiornato ogni volta che gli viene assegnato un nuovo compito. Ha inoltre a disposizione una quantità illimitata di carta su cui eseguire i calcoli. Può anche eseguire moltiplicazioni e addizioni su una “computer da tavolo”, ma questo non è rilevante.

Se usiamo la spiegazione di cui sopra come definizione, rischiamo di cadere nella circolarità del ragionamento. Evitiamo questo problema fornendo una descrizione generale dei mezzi attraverso i quali si ottiene l’effetto desiderato. Un computer digitale può essere generalmente considerato composto da tre parti:

(i) Conservare.

(ii) Unità esecutiva.

(iii) Controllo.

Il magazzino è un deposito di informazioni e corrisponde alla carta del computer umano, sia che si tratti della carta su cui esegue i suoi calcoli o di quella su cui è stampato il suo libro di regole. Nella misura in cui il computer umano esegue calcoli nel suo computer, una parte del magazzino corrisponderà alla sua memoria.

L’unità esecutiva è la parte che esegue le singole operazioni coinvolte in un calcolo. Queste singole operazioni variano da macchina a macchina. Solitamente è possibile eseguire operazioni piuttosto lunghe come “Moltiplica 3540675445 per 7076345687”, ma in alcune macchine sono possibili solo operazioni molto semplici come “Scrivi 0”.

Abbiamo già accennato al fatto che il “manuale di regole” fornito al computer viene sostituito all’interno della macchina da una parte della memoria, chiamata “tabella delle istruzioni”. Il compito del sistema di controllo è quello di assicurarsi che queste istruzioni vengano eseguite correttamente e nell’ordine corretto. Il sistema di controllo è progettato in modo tale che ciò avvenga necessariamente.

Le informazioni memorizzate sono generalmente suddivise in pacchetti di dimensioni relativamente piccole. In una macchina, ad esempio, un pacchetto potrebbe essere composto da dieci cifre decimali. Alle parti della memoria in cui sono memorizzati i vari pacchetti di informazioni vengono assegnati dei numeri, in modo sistematico. Un’istruzione tipica potrebbe essere:

“Somma il numero memorizzato nella posizione 6809 a quello nella posizione 4302 e rimetti il ​​risultato nella seconda posizione di memoria.”

Inutile dire che non si verificherebbe nella macchina espressa in inglese. Sarebbe più probabilmente codificata in una forma come 6809430217. Qui 17 indica quale delle varie operazioni possibili deve essere eseguita sui due numeri. In questo caso l’operazione è quella descritta sopra, vale a dire “Somma il numero…”. Si noterà che l’istruzione occupa 10 cifre e quindi forma un pacchetto di informazioni, molto convenientemente. Il controllo normalmente prenderà le istruzioni da eseguire nell’ordine delle posizioni in cui sono memorizzate, ma occasionalmente un’istruzione come

“Ora obbedisci all’istruzione memorizzata nella posizione 5606 e continua da lì.”

può essere incontrato, o di nuovo

“Se la posizione 4505 contiene 0, esegui l’istruzione successiva memorizzata in 6707, altrimenti continua direttamente.”

Le istruzioni di quest’ultimo tipo sono molto importanti perché permettono di ripetere una sequenza di operazioni più e più volte fino al verificarsi di una determinata condizione, ma così facendo, non si obbedisce a nuove istruzioni ad ogni ripetizione, bensì alle stesse istruzioni ripetutamente. Per fare un esempio pratico: supponiamo che la mamma voglia che Tommy passi dal calzolaio ogni mattina prima di andare a scuola per vedere se le sue scarpe sono pronte. Può chiederglielo ogni mattina. In alternativa, può appendere un avviso definitivo nell’ingresso, che Tommy vedrà uscendo di casa per andare a scuola, e che gli dica di passare a ritirare le scarpe e di distruggere l’avviso al suo ritorno, se le ha con sé.

Il lettore deve accettare come dato di fatto che i computer digitali possono essere costruiti, e di fatto sono stati costruiti, secondo i principi che abbiamo descritto, e che possono effettivamente imitare le azioni di un computer umano in modo molto fedele.

Il libro di regole che abbiamo descritto come quello utilizzato dal nostro computer umano è, ovviamente, una comoda finzione. I veri computer umani ricordano davvero cosa devono fare. Se si vuole far sì che una macchina imiti il ​​comportamento di un computer umano in un’operazione complessa, bisogna chiedergli come viene eseguita e poi tradurre la risposta in una tabella di istruzioni. La costruzione di tabelle di istruzioni viene solitamente definita “programmazione”. “Programmare una macchina per eseguire l’operazione A” significa inserire nella macchina l’apposita tabella di istruzioni affinché esegua l’operazione A.

Una variante interessante dell’idea di computer digitale è un “computer digitale con un elemento casuale”. Questi hanno istruzioni che implicano il lancio di un dado o un processo elettronico equivalente; una di queste istruzioni potrebbe essere, ad esempio, “Lancia il dado e inserisci il numero risultante nella memoria 1000”. A volte una macchina del genere viene descritta come dotata di libero arbitrio (anche se io personalmente non userei questa espressione). Normalmente non è possibile determinare, osservando una macchina, se essa possiede un elemento casuale, poiché un effetto simile può essere prodotto da dispositivi come quello che fa dipendere le scelte dalle cifre decimali.

La maggior parte dei computer digitali attualmente in uso dispone di una memoria limitata. L’idea di un computer con memoria illimitata non presenta alcuna difficoltà teorica. Naturalmente, solo una parte finita di tale memoria può essere utilizzata in un dato momento. Allo stesso modo, può essere stata costruita solo una quantità finita di memoria, ma possiamo immaginare che se ne possa aggiungere altra a seconda delle necessità. Tali computer rivestono un particolare interesse teorico e saranno chiamati computer a capacità infinita.

L’idea di un computer digitale non è nuova. Charles Babbage, professore lucasiano di matematica a Cambridge dal 1828 al 1839, progettò una macchina di questo tipo, chiamata Macchina Analitica, ma non fu mai completata. Sebbene Babbage avesse tutte le idee essenziali, la sua macchina non era all’epoca una prospettiva particolarmente allettante. La velocità che avrebbe potuto raggiungere sarebbe stata sicuramente superiore a quella di un computer umano, ma circa 100 volte inferiore a quella della macchina di Manchester, a sua volta una delle più lente tra le macchine moderne. La memorizzazione dei dati sarebbe stata puramente meccanica, utilizzando ruote e schede.

Il fatto che la Macchina Analitica di Babbage dovesse essere interamente meccanica ci aiuterà a sfatare un mito. Spesso si dà importanza al fatto che i moderni computer digitali siano elettrici e che anche il sistema nervoso sia elettrico. Poiché la macchina di Babbage non era elettrica, e poiché tutti i computer digitali sono in un certo senso equivalenti, ne consegue che questo utilizzo dell’elettricità non può avere un’importanza teorica. Naturalmente, l’elettricità entra in gioco solitamente nella trasmissione rapida dei segnali, quindi non sorprende trovarla in entrambe queste connessioni. Nel sistema nervoso i fenomeni chimici sono almeno altrettanto importanti di quelli elettrici. In alcuni computer il sistema di memorizzazione è principalmente acustico. La caratteristica dell’utilizzo dell’elettricità si rivela quindi una somiglianza molto superficiale. Se volessimo trovare tali somiglianze, dovremmo piuttosto cercare analogie matematiche di funzionamento.

5. Universalità dei computer digitali

I computer digitali considerati nella sezione precedente possono essere classificati tra le “macchine a stati discreti”. Si tratta di macchine che passano da uno stato all’altro con salti o scatti improvvisi. Questi stati sono sufficientemente distinti da poter ignorare la possibilità di confusione tra di essi. A rigor di termini, non esistono macchine di questo tipo. Tutto si muove in modo continuo. Tuttavia, esistono molti tipi di macchine che possono essere utilmente considerate come macchine a stati discreti. Ad esempio, considerando gli interruttori di un sistema di illuminazione, è una comoda finzione che ogni interruttore debba essere necessariamente acceso o definitivamente spento. Devono esserci posizioni intermedie, ma per la maggior parte degli scopi possiamo ignorarle. Come esempio di macchina a stati discreti potremmo considerare una ruota che compie un giro completo di 120 una volta al secondo, ma può essere fermata da un meccanismo azionato dall’esterno; inoltre, una lampada deve accendersi in una delle posizioni della ruota. Questa macchina potrebbe essere descritta in modo astratto come segue. Lo stato interno della macchina (descritto dalla posizione della ruota) può essere _q1 , _q2 o _q3 . È presente un segnale di ingresso i0 o i1 (posizione di ]ever). Lo stato interno in qualsiasi momento è determinato dall’ultimo stato e dal segnale di ingresso secondo la tabella

(TABELLA ELIMINATA)

I segnali di uscita, l’unica indicazione esternamente visibile dello stato interno (la luce), sono descritti dalla tabella

Stato q ₁ q ₂ q ₃

uscita o ₀ o ₀ o ₁

Questo esempio è tipico delle macchine a stati discreti. Esse possono essere descritte da tabelle di questo tipo a condizione che abbiano solo un numero finito di stati possibili.

Sembrerà che, dato lo stato iniziale della macchina e i segnali di ingresso, sia sempre possibile prevedere tutti gli stati futuri. Questo richiama alla mente la visione di Laplace, secondo la quale, a partire dallo stato completo dell’universo in un dato istante, descritto dalle posizioni e dalle velocità di tutte le particelle, dovrebbe essere possibile prevedere tutti gli stati futuri. La previsione che stiamo considerando, tuttavia, è molto più vicina alla praticabilità rispetto a quella considerata da Laplace. Il sistema dell'”universo nel suo complesso” è tale che errori anche minimi nelle condizioni iniziali possono avere un effetto preponderante in un secondo momento. Lo spostamento di un singolo elettrone di un miliardesimo di centimetro in un dato istante potrebbe fare la differenza tra la morte di un uomo travolto da una valanga un anno dopo e la sua salvezza. È una proprietà essenziale dei sistemi meccanici che abbiamo definito “macchine a stati discreti” che questo fenomeno non si verifichi. Anche quando consideriamo le macchine fisiche reali anziché quelle idealizzate, una conoscenza ragionevolmente accurata dello stato in un dato istante produce una conoscenza ragionevolmente accurata anche a un numero qualsiasi di passi successivi.

Come abbiamo già accennato, i computer digitali rientrano nella classe delle macchine a stati discreti. Tuttavia, il numero di stati di cui una tale macchina è capace è solitamente enormemente elevato. Ad esempio, il numero di stati della macchina attualmente in funzione a Manchester è di circa 2.165.000 ^, ovvero circa ^10⁵⁰.000 . Confrontiamo questo dato con l’esempio della rotella di scorrimento descritta in precedenza, che aveva tre stati. Non è difficile capire perché il numero di stati debba essere così immenso. Il computer include una memoria corrispondente alla carta utilizzata da un computer umano. Deve essere possibile scrivere nella memoria qualsiasi combinazione di simboli che potrebbero essere stati scritti sulla carta. Per semplicità, supponiamo che vengano utilizzate come simboli solo le cifre da 0 a 9. Le variazioni nella scrittura a mano vengono ignorate. Supponiamo che il computer abbia a disposizione 100 fogli di carta, ciascuno contenente 50 righe con spazio per 30 cifre. In tal caso, il numero di stati è 10¹⁰⁰ ^{x 50 x 30} , ovvero ^{10¹⁵⁰.000} . Questo valore corrisponde circa al numero di stati di tre macchine di Manchester messe insieme. Il logaritmo in base due del numero di stati viene solitamente chiamato “capacità di memorizzazione” della macchina. Pertanto, la macchina di Manchester ha una capacità di memorizzazione di circa 165.000 e la macchina a ruota del nostro esempio di circa 1,6. Se si uniscono due macchine, le loro capacità devono essere sommate per ottenere la capacità della macchina risultante. Questo porta alla possibilità di affermazioni come “La macchina di Manchester contiene 64 piste magnetiche, ciascuna con una capacità di 2560, otto tubi elettronici con una capacità di 1280. La memoria varia ammonta a circa 300, per un totale di 174.380.”

Data la tabella corrispondente a una macchina a stati discreti, è possibile prevederne il comportamento. Non c’è motivo per cui questo calcolo non possa essere eseguito tramite un computer digitale. Purché possa essere eseguito sufficientemente velocemente, il computer digitale potrebbe simulare il comportamento di qualsiasi macchina a stati discreti. Il gioco di imitazione potrebbe quindi essere giocato con la macchina in questione (indicata come B) e il computer digitale che la simula (indicato come A), e l’interrogatore non sarebbe in grado di distinguerli. Naturalmente, il computer digitale deve avere una capacità di memoria adeguata e una velocità di elaborazione sufficiente. Inoltre, deve essere programmato ex novo per ogni nuova macchina che si desidera simulare.

Questa particolare proprietà dei computer digitali, ovvero la capacità di emulare qualsiasi macchina a stati discreti, viene descritta dicendo che sono macchine universali. L’esistenza di macchine con questa proprietà ha l’importante conseguenza che, a prescindere dalla velocità, non è necessario progettare nuove macchine per eseguire diversi processi di calcolo. Tutti questi processi possono essere eseguiti con un unico computer digitale, opportunamente programmato per ciascun caso. Si vedrà che, di conseguenza, tutti i computer digitali sono in un certo senso equivalenti.

Possiamo ora riconsiderare il punto sollevato alla fine del §3. È stato suggerito, in via preliminare, di sostituire la domanda “Le macchine possono pensare?” con “Esistono computer digitali immaginabili che si comporterebbero bene nel gioco dell’imitazione?”. Volendo, potremmo generalizzare ulteriormente la domanda chiedendo “Esistono macchine a stati discreti che si comporterebbero bene?”. Ma, in virtù della proprietà di universalità, vediamo che entrambe le domande sono equivalenti a questa: “Concentriamo la nostra attenzione su un particolare computer digitale C. È vero che, modificando questo computer in modo da dotarlo di una memoria adeguata, aumentando opportunamente la sua velocità di elaborazione e fornendogli un programma appropriato, C può essere in grado di svolgere in modo soddisfacente il ruolo di A nel gioco dell’imitazione, mentre il ruolo di B è ricoperto da un essere umano?”.

6. Punti di vista contrastanti sulla questione principale

Possiamo ora considerare che il terreno sia stato sgombrato e siamo pronti a procedere al dibattito sulla nostra domanda, “Le macchine possono pensare?” e sulla sua variante citata alla fine della sezione precedente. Non possiamo abbandonare del tutto la forma originale del problema, poiché le opinioni divergeranno sull’appropriatezza della sostituzione e dobbiamo quantomeno ascoltare ciò che si ha da dire a questo proposito.

Per semplificare le cose al lettore, spiegherò prima le mie convinzioni in merito. Consideriamo innanzitutto la formulazione più precisa della domanda. Credo che tra circa cinquant’anni sarà possibile programmare computer con una capacità di memoria di circa 10⁹ KB in modo che giochino al gioco dell’imitazione così bene che un interrogatore medio non avrà più del 70% di probabilità di identificare correttamente la macchina dopo cinque minuti di interrogatorio. La domanda originale, “Le macchine possono pensare?”, credo sia troppo insignificante per meritare una discussione. Tuttavia, credo che alla fine del secolo l’uso delle parole e l’opinione generale delle persone istruite saranno cambiati a tal punto che si potrà parlare di macchine pensanti senza temere di essere contraddetti. Credo inoltre che non serva a nulla nascondere queste convinzioni. L’opinione diffusa secondo cui gli scienziati procedono inesorabilmente da fatti accertati a fatti accertati, senza mai essere influenzati da alcuna congettura più avanzata, è del tutto errata. Purché si chiarisca quali siano i fatti provati e quali le congetture, non se ne può ricavare alcun danno. Le congetture sono di grande importanza poiché suggeriscono utili linee di ricerca.

Passo ora ad esaminare le opinioni contrarie alla mia.

(1) L’obiezione teologica

Il pensiero è una funzione dell’anima immortale dell’uomo. Dio ha donato un’anima immortale a ogni uomo e donna, ma non a nessun altro animale o macchina. Pertanto, nessun animale o macchina può pensare.

Non posso accettare nessuna parte di ciò, ma tenterò di rispondere in termini teologici. Troverei l’argomentazione più convincente se gli animali fossero classificati insieme agli uomini, poiché a mio avviso c’è una differenza maggiore tra l’animato tipico e l’inanimato di quanta ce ne sia tra l’uomo e gli altri animali. Il carattere arbitrario della visione ortodossa diventa più chiaro se consideriamo come potrebbe apparire a un membro di un’altra comunità religiosa. Come considerano i cristiani la visione musulmana secondo cui le donne non hanno un’anima? Ma lasciamo da parte questo punto e torniamo all’argomentazione principale. Mi sembra che l’argomentazione citata sopra implichi una seria limitazione dell’onnipotenza dell’Onnipotente. Si ammette che ci siano certe cose che Egli non può fare, come rendere uno uguale a due, ma non dovremmo credere che Egli abbia la libertà di conferire un’anima a un elefante se lo ritiene opportuno? Potremmo aspettarci che Egli eserciti questo potere solo in concomitanza con una mutazione che fornisca all’elefante un cervello adeguatamente migliorato per soddisfare le esigenze di questo tipo. Un argomento di forma esattamente simile può essere formulato anche per il caso delle macchine. Può sembrare diverso perché è più difficile da “inghiottire”. Ma questo significa semplicemente che riteniamo meno probabile che Egli consideri le circostanze idonee a conferire un’anima. Le circostanze in questione sono discusse nel resto di questo articolo. Nel tentativo di costruire tali macchine non dovremmo usurpare irriverentemente il Suo potere di creare anime, così come non lo facciamo nella procreazione dei figli: piuttosto, in entrambi i casi, siamo strumenti della Sua volontà che forniscono dimore alle anime che Egli crea.

Tuttavia, questa è pura speculazione. Non sono molto impressionato dagli argomenti teologici, qualunque cosa si prefiggano di sostenere. Tali argomenti si sono spesso rivelati insoddisfacenti in passato. Ai tempi di Galileo si sosteneva che i testi “E il sole si fermò… e non si affrettò a tramontare per tutto il giorno” (Giosuè 10,13) e “Egli pose le fondamenta della terra, perché non si muovesse in alcun momento” (Salmo 10,5) costituissero una confutazione adeguata della teoria copernicana. Con le nostre attuali conoscenze, un simile argomento appare futile. Quando queste conoscenze non erano disponibili, l’impressione era ben diversa.

(2) L’obiezione “Teste nella sabbia”

Le conseguenze di macchine pensanti sarebbero troppo terribili. Speriamo e crediamo che non ne siano capaci.

Questa argomentazione raramente viene espressa in modo così aperto come nella forma sopra riportata. Eppure, influenza la maggior parte di noi che ci riflettiamo. Ci piace credere che l’uomo sia, in qualche modo sottile, superiore al resto del creato. Sarebbe preferibile se si potesse dimostrare che la sua superiorità è necessaria, perché in tal caso non ci sarebbe il pericolo che perda la sua posizione dominante. La popolarità dell’argomentazione teologica è chiaramente legata a questo sentimento. È probabile che sia particolarmente forte nelle persone intellettuali, poiché attribuiscono un valore maggiore alla capacità di pensare rispetto agli altri e sono più inclini a fondare la loro convinzione della superiorità dell’uomo su questa capacità.

Non ritengo che questa argomentazione sia sufficientemente sostanziale da richiedere una confutazione. Una consolazione sarebbe più appropriata: forse bisognerebbe cercarla nella trasmigrazione delle anime.

(3) L’obiezione matematica

Esistono diversi risultati della logica matematica che possono essere utilizzati per dimostrare che ci sono dei limiti alle capacità delle macchine a stati discreti. Il più noto di questi risultati è il teorema di Gödel (1931), il quale dimostra che in qualsiasi sistema logico sufficientemente potente è possibile formulare affermazioni che non possono essere né dimostrate né confutate all’interno del sistema stesso, a meno che il sistema stesso non sia incoerente. Esistono altri risultati, per certi aspetti simili, dovuti a Church (1936), Kleene (1935), Rosser e Turing (1937). Quest’ultimo risultato è il più conveniente da considerare, poiché si riferisce direttamente alle macchine, mentre gli altri possono essere utilizzati solo in un argomento relativamente indiretto: ad esempio, per utilizzare il teorema di Gödel, è necessario disporre di un modo per descrivere i sistemi logici in termini di macchine e le macchine in termini di sistemi logici. Il risultato in questione si riferisce a un tipo di macchina che è essenzialmente un computer digitale con capacità infinita. Esso afferma che ci sono alcune cose che una tale macchina non può fare. Se la macchina è predisposta per rispondere a domande come nel gioco dell’imitazione, ci saranno alcune domande alle quali darà una risposta errata, o non risponderà affatto, indipendentemente dal tempo concesso per la replica. Naturalmente, potrebbero esserci molte domande di questo tipo, e domande a cui una macchina non può rispondere potrebbero essere risolte in modo soddisfacente da un’altra. Per il momento, supponiamo che le domande siano del tipo a cui è appropriata una risposta “Sì” o “No”, piuttosto che domande come “Cosa ne pensi di Picasso?”. Le domande a cui sappiamo che le macchine falliranno sono di questo tipo: “Considera la macchina specificata come segue… Questa macchina risponderà mai ‘Sì’ a una qualsiasi domanda?”. I punti devono essere sostituiti dalla descrizione di una macchina in forma standard, che potrebbe essere qualcosa di simile a quella usata nel §5. Quando la macchina descritta ha una certa relazione relativamente semplice con la macchina sotto esame, si può dimostrare che la risposta è errata o non verrà fornita. Questo è il risultato matematico: si sostiene che esso dimostri una limitazione delle macchine alla quale l’intelletto umano non è soggetto.

In breve, la risposta a questa argomentazione è che, sebbene sia assodato che esistano dei limiti alle capacità di una qualsiasi macchina, si è affermato, senza alcuna prova, che tali limitazioni non si applichino all’intelletto umano. Ma non credo che questa tesi possa essere liquidata con tanta leggerezza. Ogni volta che a una di queste macchine viene posta la domanda critica appropriata, e questa fornisce una risposta precisa, sappiamo che tale risposta deve essere errata, e ciò ci dà una certa sensazione di superiorità. Questa sensazione è illusoria? È senza dubbio genuina, ma non credo che si debba attribuirle troppa importanza. Troppo spesso anche noi diamo risposte errate per poterci giustificare nel compiacerci di tale prova di fallibilità da parte delle macchine. Inoltre, la nostra superiorità può essere percepita in tali occasioni solo in relazione alla singola macchina sulla quale abbiamo ottenuto il nostro piccolo trionfo. Non si tratterebbe certo di trionfare simultaneamente su tutte le macchine. In breve, quindi, potrebbero esserci uomini più intelligenti di una data macchina, ma potrebbero esserci altre macchine ancora più intelligenti, e così via.

Coloro che sostengono l’argomentazione matematica sarebbero, a mio avviso, per lo più disposti ad accettare il gioco di imitazione come base di discussione. Coloro che credono alle due obiezioni precedenti, probabilmente, non sarebbero interessati ad alcun criterio.

(4) L’argomento della coscienza

Questa tesi è espressa in modo eccellente nella Lister Oration del Professor Jefferson del 1949, da cui cito: “Solo quando una macchina sarà in grado di scrivere un sonetto o comporre un concerto grazie a pensieri ed emozioni provati, e non per la casuale combinazione di simboli, potremo concordare sul fatto che la macchina sia uguale al cervello, ovvero che non solo possa scrivere, ma anche sapere di averlo scritto. Nessun meccanismo potrebbe provare (e non semplicemente segnalare artificialmente, un espediente facile) piacere per i propri successi, dolore quando le sue valvole si guastano, essere lusingato dalle adulazioni, essere reso infelice dai propri errori, essere affascinato dal sesso, arrabbiarsi o deprimersi quando non riesce a ottenere ciò che desidera.”

Questa argomentazione sembra negare la validità del nostro test. Secondo la forma più estrema di questa visione, l’unico modo per essere certi che una macchina pensi è essere la macchina e provare la sensazione di pensare. Si potrebbero poi descrivere queste sensazioni al mondo, ma ovviamente nessuno sarebbe giustificato a prestarvi attenzione. Allo stesso modo, secondo questa visione, l’unico modo per sapere che un uomo pensa è essere quell’uomo in particolare. Si tratta, di fatto, del punto di vista solipsista. Potrebbe essere la visione più logica, ma rende difficile la comunicazione delle idee. A potrebbe credere “A pensa ma B no”, mentre B crede “B pensa ma A no”. Invece di discutere continuamente su questo punto, è consuetudine adottare la convenzione educata che tutti pensano.

Sono certo che il professor Jefferson non desideri adottare un punto di vista estremo e solipsista. Probabilmente sarebbe ben disposto ad accettare il gioco dell’imitazione come test. Il gioco (con il giocatore B omesso) viene spesso utilizzato nella pratica con il nome di colloquio orale per scoprire se qualcuno ha realmente compreso qualcosa o se l’ha “imparato a pappagallo”. Ascoltiamo una parte di un colloquio orale di questo tipo :

Interrogatore: Nel primo verso del tuo sonetto, che recita “Dovrei paragonarti a un giorno d’estate”, non sarebbe altrettanto valido o addirittura migliore “un giorno di primavera”?

Testimone: Non si riusciva a scansionare.

Interrogatore: Che ne dice di “una giornata d’inverno”? Sarebbe perfetto.

Testimone: Sì, ma nessuno vuole essere paragonato a una giornata invernale.

Interrogatore: Direbbe che il signor Pickwick le ha ricordato il Natale?

Testimone: In un certo senso.

Interrogatore: Eppure Natale è un giorno d’inverno, e non credo che al signor Pickwick dispiacerebbe il paragone.

Testimone: Non credo che tu stia parlando sul serio. Per “giorno d’inverno” si intende un tipico giorno d’inverno, non un giorno speciale come Natale.

E così via. Cosa direbbe il professor Jefferson se la macchina per scrivere sonetti fosse in grado di rispondere in questo modo durante un colloquio orale ? Non so se considererebbe la macchina come un semplice strumento che “segnala artificialmente” queste risposte, ma se le risposte fossero soddisfacenti e coerenti come nel passaggio sopra citato, non credo che la definirebbe “un’invenzione di poco conto”. Questa espressione, credo, intende riferirsi a dispositivi come l’inserimento nella macchina della registrazione di qualcuno che legge un sonetto, con un apposito interruttore per attivarla di volta in volta.

In breve, credo che la maggior parte di coloro che sostengono l’argomento della coscienza potrebbero essere persuasi ad abbandonarlo piuttosto che essere costretti ad assumere la posizione solipsista. A quel punto, probabilmente, saranno disposti ad accettare il nostro test.

Non voglio dare l’impressione di pensare che la coscienza sia priva di misteri. C’è, ad esempio, una sorta di paradosso legato a qualsiasi tentativo di localizzarla. Ma non credo che questi misteri debbano necessariamente essere risolti prima di poter rispondere alla domanda che ci occupiamo in questo articolo.

(5) Argomenti da varie disabilità

Queste argomentazioni assumono la forma: “Ammetto che si possono far fare alle macchine tutte le cose che hai menzionato, ma non sarai mai in grado di farne fare una a X”. In questo contesto vengono suggerite numerose caratteristiche X; ne propongo una selezione:

Sii gentile, intraprendente, bella, amichevole, prendi l’iniziativa, abbi senso dell’umorismo, distingui il bene dal male, commetti errori, innamorati, apprezza le fragole con la panna, fai innamorare qualcuno di esse, impara dall’esperienza, usa le parole correttamente, sii soggetto dei tuoi pensieri, abbi tanta diversità di comportamento quanto un uomo, fai qualcosa di veramente nuovo.

Di solito non viene fornito alcun supporto a queste affermazioni. Credo che si basino principalmente sul principio dell’induzione scientifica. Un uomo ha visto migliaia di macchine nella sua vita. Da ciò che vede, trae una serie di conclusioni generali: sono brutte, ognuna è progettata per uno scopo molto limitato, quando sono necessarie per uno scopo anche solo leggermente diverso sono inutili, la varietà di comportamenti di ciascuna di esse è molto ridotta, ecc. Naturalmente, conclude che queste sono proprietà necessarie delle macchine in generale. Molte di queste limitazioni sono associate alla capacità di memoria molto ridotta della maggior parte delle macchine. (Presumo che il concetto di capacità di memoria venga esteso in qualche modo a macchine diverse da quelle a stati discreti. La definizione esatta non è importante, poiché in questa discussione non si pretende alcuna precisione matematica). Qualche anno fa, quando si sentiva parlare molto poco di computer digitali, era possibile suscitare molta incredulità al riguardo, se si menzionavano le loro proprietà senza descriverne la costruzione. Ciò era presumibilmente dovuto a una simile applicazione del principio dell’induzione scientifica. Queste applicazioni del principio sono ovviamente in gran parte inconsce. Quando un bambino ustionato teme il fuoco e lo dimostra evitandolo, si dovrebbe dire che sta applicando l’induzione scientifica. (Potrei naturalmente descrivere il suo comportamento anche in molti altri modi.) Le opere e le usanze dell’umanità non sembrano essere un materiale molto adatto a cui applicare l’induzione scientifica. Bisogna indagare una porzione molto ampia dello spazio-tempo, se si vogliono ottenere risultati affidabili. Altrimenti potremmo (come fanno la maggior parte dei “bambini” inglesi) decidere che tutti parlano inglese e che è sciocco imparare il francese.

Ci sono, tuttavia, delle osservazioni particolari da fare riguardo a molte delle disabilità menzionate. L’incapacità di gustare fragole e panna potrebbe essere sembrata frivola al lettore. Forse si potrebbe programmare una macchina per gustare questo delizioso piatto, ma qualsiasi tentativo in tal senso sarebbe idiota. Ciò che è importante di questa disabilità è che contribuisce ad alcune delle altre disabilità, ad esempio, alla difficoltà che si crei lo stesso tipo di cordialità tra uomo e macchina che si crea tra uomo bianco e uomo bianco, o tra uomo nero e uomo nero.

L’affermazione secondo cui “le macchine non possono sbagliare” sembra alquanto curiosa. Si è tentati di replicare: “Sono forse peggiori per questo?”. Ma adottiamo un atteggiamento più comprensivo e cerchiamo di capire cosa si intende realmente. Credo che questa critica possa essere spiegata con il paragone del gioco dell’imitazione. Si sostiene che l’interrogatore potrebbe distinguere la macchina dall’uomo semplicemente sottoponendo loro una serie di problemi di aritmetica. La macchina verrebbe smascherata a causa della sua micidiale precisione. La risposta è semplice: la macchina (programmata per giocare) non cercherebbe di dare le risposte corrette ai problemi di aritmetica. Introdurrebbe deliberatamente degli errori in modo da confondere l’interrogatore. Un guasto meccanico si manifesterebbe probabilmente attraverso una decisione errata sul tipo di errore da commettere nel calcolo. Anche questa interpretazione della critica non è sufficientemente comprensiva. Ma non abbiamo spazio per approfondirla ulteriormente. Mi sembra che questa critica si basi su una confusione tra due tipi di errore, che potremmo definire “errori di funzionamento” ed “errori di conclusione”. Gli errori di funzionamento sono dovuti a un guasto meccanico o elettrico che fa sì che la macchina si comporti in modo diverso da come è stata progettata. Nelle discussioni filosofiche si tende a ignorare la possibilità di tali errori; si parla quindi di “macchine astratte”. Queste macchine astratte sono finzioni matematiche piuttosto che oggetti fisici. Per definizione, sono incapaci di commettere errori di funzionamento. In questo senso, possiamo affermare con certezza che “le macchine non possono mai sbagliare”. Gli errori di conclusione possono sorgere solo quando ai segnali di output della macchina viene attribuito un significato. La macchina potrebbe, ad esempio, digitare equazioni matematiche o frasi in inglese. Quando viene digitata una proposizione falsa, diciamo che la macchina ha commesso un errore di conclusione. Non c’è chiaramente alcuna ragione per affermare che una macchina non possa commettere questo tipo di errore. Potrebbe anche limitarsi a digitare ripetutamente “O = I”. Per fare un esempio meno estremo, potrebbe avere un metodo per trarre conclusioni per induzione scientifica. Dobbiamo aspettarci che un metodo del genere possa occasionalmente portare a risultati errati.

L’affermazione secondo cui una macchina non può essere oggetto del proprio pensiero può ovviamente essere confutata solo se si dimostra che la macchina ha un pensiero con un oggetto. Tuttavia, “l’oggetto delle operazioni di una macchina” sembra avere un significato, almeno per chi se ne occupa. Se, ad esempio, la macchina stesse cercando di trovare una soluzione all’equazione x² – 40x – 11 = 0, si sarebbe tentati di descrivere questa equazione come parte dell’oggetto di pensiero della macchina in quel momento. In questo senso, una macchina può indubbiamente essere oggetto del proprio pensiero. Può essere utilizzata per elaborare i propri programmi o per prevedere l’effetto di modifiche alla propria struttura. Osservando i risultati del proprio comportamento, può modificare i propri programmi in modo da raggiungere un determinato scopo in modo più efficace. Queste sono possibilità del prossimo futuro, non sogni utopici.

La critica secondo cui una macchina non può avere molta varietà di comportamenti è solo un modo per dire che non può avere molta capacità di memoria. Fino a tempi relativamente recenti, una capacità di memoria di anche mille cifre era molto rara.

Le critiche che stiamo prendendo in considerazione qui sono spesso forme mascherate dell’argomento della coscienza. Di solito, se si sostiene che una macchina può fare una di queste cose e si descrive il tipo di metodo che la macchina potrebbe usare, non si farà molta impressione. Si pensa che quel metodo (qualunque esso sia, poiché deve essere meccanico) sia in realtà piuttosto elementare. Confronta le parentesi nell’affermazione di Jefferson citata a pagina 22.

(6) L’obiezione di Lady Lovelace

Le informazioni più dettagliate sulla Macchina Analitica di Babbage provengono da un memoriale di Lady Lovelace (1842). In esso, ella afferma: “La Macchina Analitica non ha la pretesa di creare nulla. Può fare tutto ciò che sappiamo ordinarle di fare” (corsivo suo). Questa affermazione è citata da Hartree (1949) che aggiunge: “Ciò non implica che non sia possibile costruire apparecchiature elettroniche che ‘pensino da sole’, o in cui, in termini biologici, si possa instaurare un riflesso condizionato che funga da base per l”apprendimento’. Se ciò sia possibile in linea di principio o meno è una questione stimolante ed entusiasmante, suggerita da alcuni di questi recenti sviluppi. Ma non sembrava che le macchine costruite o progettate all’epoca avessero questa proprietà.”

Sono pienamente d’accordo con Hartree su questo punto. Si noti che egli non afferma che le macchine in questione non avessero acquisito tale proprietà, ma piuttosto che le prove a disposizione di Lady Lovelace non la incoraggiavano a credere che la possedessero. È del tutto possibile che le macchine in questione avessero, in un certo senso, acquisito tale proprietà. Supponiamo infatti che una macchina a stati discreti possieda tale proprietà. La Macchina Analitica era un computer digitale universale, quindi, se la sua capacità di memoria e la sua velocità fossero state adeguate, avrebbe potuto, tramite un’opportuna programmazione, imitare la macchina in questione. Probabilmente questa argomentazione non venne in mente alla Contessa o a Babbage. In ogni caso, non avevano alcun obbligo di rivendicare tutto ciò che potevano rivendicare.

L’intera questione verrà ripresa nell’ambito delle macchine di apprendimento.

Una variante dell’obiezione di Lady Lovelace afferma che una macchina non può “mai fare nulla di veramente nuovo”. A questa si può rispondere per un attimo con la proverbiale frase “Non c’è niente di nuovo sotto il sole”. Chi può essere certo che il “lavoro originale” che ha svolto non sia semplicemente la crescita del seme piantato in lui dall’insegnamento, o l’effetto dell’applicazione di principi generali ben noti? Una variante migliore dell’obiezione afferma che una macchina non può mai “coglierci di sorpresa”. Questa affermazione è una sfida più diretta e può essere confutata direttamente. Le macchine mi colgono di sorpresa con grande frequenza. Questo accade in gran parte perché non eseguo calcoli sufficienti per prevedere cosa aspettarmi da loro, o meglio perché, sebbene esegua un calcolo, lo faccio in modo frettoloso e superficiale, correndo dei rischi. Magari mi dico: “Suppongo che la tensione qui dovrebbe essere la stessa che lì: comunque, supponiamo che lo sia”. Naturalmente spesso mi sbaglio, e il risultato è una sorpresa per me perché, al termine dell’esperimento, queste ipotesi sono state dimenticate. Queste ammissioni mi espongono a prediche sui miei comportamenti scorretti, ma non gettano alcun dubbio sulla mia credibilità quando racconto le sorprese che mi capitano.

Non mi aspetto che questa risposta metta a tacere il mio critico. Probabilmente dirà che le sorprese sono dovute a un qualche atto mentale creativo da parte mia e non attribuiscono alcun merito alla macchina. Questo ci riporta all’argomento della coscienza, e ben lontano dall’idea di sorpresa. È una linea argomentativa che dobbiamo considerare chiusa, ma forse vale la pena osservare che l’apprezzamento di qualcosa di sorprendente richiede un “atto mentale creativo” tanto quanto l’evento sorprendente, indipendentemente dal fatto che provenga da un uomo, un libro, una macchina o qualsiasi altra cosa.

L’idea che le macchine non possano generare sorprese è dovuta, a mio avviso, a un errore logico a cui sono particolarmente soggetti filosofi e matematici. Si tratta dell’assunto che, non appena un fatto viene presentato a una mente, tutte le conseguenze di quel fatto le affiorino simultaneamente. È un’ipotesi molto utile in molte circostanze, ma si dimentica troppo facilmente che è falsa. Una naturale conseguenza di questo è che si finisce per supporre che non ci sia alcun valore nel semplice ricavare conseguenze da dati e principi generali.

(7) Argomento della continuità nel sistema nervoso

Il sistema nervoso non è certamente una macchina a stati discreti. Un piccolo errore nelle informazioni relative all’ampiezza di un impulso nervoso che colpisce un neurone può fare una grande differenza nell’ampiezza dell’impulso in uscita. Si potrebbe obiettare che, in tal caso, non ci si può aspettare di poter riprodurre il comportamento del sistema nervoso con un sistema a stati discreti.

È vero che una macchina a stati discreti deve essere diversa da una macchina a stati continui. Ma se rispettiamo le condizioni del gioco di imitazione, l’interrogatore non potrà trarre alcun vantaggio da questa differenza. La situazione può essere chiarita se consideriamo un’altra macchina continua più semplice. Un analizzatore differenziale andrebbe benissimo. (Un analizzatore differenziale è un certo tipo di macchina, non a stati discreti, utilizzata per alcuni tipi di calcolo.) Alcuni di questi forniscono le loro risposte in forma scritta e sono quindi adatti a partecipare al gioco. Non sarebbe possibile per un computer digitale prevedere con esattezza quali risposte darebbe l’analizzatore differenziale a un problema, ma sarebbe perfettamente in grado di dare il tipo di risposta corretta. Ad esempio, se venisse chiesto di fornire il valore di (in realtà circa 3,1416), sarebbe ragionevole scegliere a caso tra i valori 3,12, 3,13, 3,14, 3,15, 3,16 con probabilità di 0,05, 0,15, 0,55, 0,19, 0,06 (per esempio). In queste circostanze sarebbe molto difficile per l’interrogatore distinguere l’analizzatore differenziale dal computer digitale.

(8) L’argomento dell’informalità del comportamento

Non è possibile stilare un insieme di regole che descrivano cosa una persona dovrebbe fare in ogni possibile circostanza. Si potrebbe, ad esempio, stabilire la regola di fermarsi al semaforo rosso e di ripartire al verde, ma cosa succede se, per qualche motivo, entrambi i semafori si accendono contemporaneamente? Si potrebbe forse decidere che la cosa più sicura sia fermarsi. Ma da questa decisione potrebbero poi derivare ulteriori difficoltà. Tentare di fornire regole di condotta che coprano ogni eventualità, persino quelle derivanti dai semafori, sembra impossibile. Su tutto ciò concordo.

Da ciò si deduce che non possiamo essere macchine. Cercherò di riprodurre l’argomentazione, ma temo di non renderle giustizia. Sembra che suoni più o meno così: “Se ogni uomo avesse un insieme definito di regole di condotta con cui regolare la propria vita, non sarebbe migliore di una macchina. Ma tali regole non esistono, quindi gli uomini non possono essere macchine”. La parte centrale non distribuita è evidente. Non credo che l’argomentazione venga mai formulata esattamente in questi termini, ma ritengo che sia comunque quella utilizzata. Potrebbe esserci, tuttavia, una certa confusione tra “regole di condotta” e “leggi del comportamento” che offusca la questione. Per “regole di condotta” intendo precetti come “Fermati se vedi il semaforo rosso”, sui quali si può agire e di cui si può essere consapevoli. Per “leggi del comportamento” intendo leggi di natura applicate al corpo umano, come ad esempio “se lo pizzichi, emetterà un suono”. Se sostituiamo “leggi di comportamento che regolano la sua vita” con “leggi di condotta con cui regola la sua vita” nell’argomentazione citata, il principio del terzo non distribuito non è più insuperabile. Crediamo infatti che non solo essere regolati da leggi di comportamento implichi essere una sorta di macchina (sebbene non necessariamente una macchina a stati discreti), ma che viceversa essere una tale macchina implichi essere regolati da tali leggi. Tuttavia, non possiamo convincerci con la stessa facilità dell’assenza di leggi di comportamento complete come dell’assenza di regole di condotta complete. L’unico modo che conosciamo per trovare tali leggi è l’osservazione scientifica, e certamente non conosciamo alcuna circostanza in cui potremmo dire: “Abbiamo cercato abbastanza. Non esistono tali leggi”.

Possiamo dimostrare con maggiore forza che un’affermazione del genere sarebbe ingiustificata. Supponiamo infatti di poter essere certi di trovare tali leggi, qualora esistessero. In tal caso, data una macchina a stati discreti, dovrebbe certamente essere possibile ricavare da un’osservazione sufficiente informazioni su di essa per prevederne il comportamento futuro, e ciò entro un lasso di tempo ragionevole, diciamo mille anni. Ma non sembra essere questo il caso. Ho implementato sul computer di Manchester un piccolo programma che utilizza solo 1.000 unità di memoria, grazie al quale la macchina, a cui viene fornito un numero di sedici cifre, risponde con un altro entro due secondi. Sfido chiunque a ricavare da queste risposte informazioni sufficienti sul programma per poter prevedere le risposte a valori mai provati prima.

(9) L’argomento della percezione extrasensoriale

Presumo che il lettore abbia familiarità con il concetto di percezione extrasensoriale e con il significato dei suoi quattro elementi, ovvero telepatia, chiaroveggenza, precognizione e psicocinesi. Questi fenomeni inquietanti sembrano contraddire tutte le nostre consuete teorie scientifiche. Quanto vorremmo smentirli! Purtroppo, le prove statistiche, almeno per quanto riguarda la telepatia, sono schiaccianti. È molto difficile riorganizzare le proprie idee per far spazio a questi nuovi fatti. Una volta accettati, non sembra un grande passo credere nei fantasmi e negli spettri. L’idea che i nostri corpi si muovano semplicemente secondo le leggi conosciute della fisica, insieme ad altre non ancora scoperte ma in qualche modo simili, sarebbe una delle prime a essere abbandonata.

A mio avviso, questa argomentazione è piuttosto convincente. Si potrebbe obiettare che molte teorie scientifiche sembrano rimanere valide nella pratica, nonostante siano in contrasto con la percezione extrasensoriale; che in realtà si può vivere benissimo anche senza tenerne conto. Questa è una magra consolazione, e si teme che il pensiero sia proprio quel tipo di fenomeno in cui la percezione extrasensoriale potrebbe rivelarsi particolarmente rilevante.

Un argomento più specifico basato sulla percezione extrasensoriale potrebbe essere il seguente: “Facciamo un gioco di imitazione, usando come testimoni un uomo con spiccate doti telepatiche e un computer digitale. L’interrogatore può porre domande come ‘A quale seme appartiene la carta che ho in mano?’. L’uomo, tramite telepatia o chiaroveggenza, dà la risposta corretta 130 volte su 400 carte. La macchina può solo tirare a indovinare a caso, e magari ne indovina 104, permettendo così all’interrogatore di fare l’identificazione corretta.” Qui si apre un’interessante possibilità. Supponiamo che il computer digitale contenga un generatore di numeri casuali. In tal caso, sarebbe naturale usarlo per decidere quale risposta dare. Ma in questo caso il generatore di numeri casuali sarebbe soggetto ai poteri psicocinetici dell’interrogatore. Forse questa psicocinesi potrebbe indurre la macchina a indovinare più spesso di quanto ci si aspetterebbe da un calcolo probabilistico, cosicché l’interrogatore potrebbe comunque non essere in grado di fare l’identificazione corretta. D’altra parte, potrebbe essere in grado di indovinare senza alcuna domanda, grazie alla chiaroveggenza. Con la percezione extrasensoriale tutto è possibile.

Se si ammettesse la telepatia, sarebbe necessario rendere più rigoroso il nostro test. La situazione potrebbe essere considerata analoga a quella che si verificherebbe se l’interrogatore parlasse da solo e uno dei concorrenti stesse ascoltando con l’orecchio appoggiato al muro. Rinchiudere i concorrenti in una “stanza a prova di telepatia” soddisferebbe tutti i requisiti.

7. Macchine di apprendimento

Il lettore avrà intuito che non dispongo di argomentazioni particolarmente convincenti di natura positiva a sostegno delle mie tesi. Se le avessi avute, non mi sarei prodigato tanto per evidenziare le fallacie delle opinioni contrarie. Le prove di cui dispongo, ora le esporrò.

Torniamo per un attimo all’obiezione di Lady Lovelace, secondo la quale la macchina può fare solo ciò che le diciamo di fare. Si potrebbe dire che un uomo può “iniettare” un’idea nella macchina, e che questa risponderà fino a un certo punto per poi acquietarsi, come una corda di pianoforte colpita da un martelletto. Un’altra analogia potrebbe essere quella di una pila atomica di dimensioni inferiori a quelle critiche: un’idea iniettata corrisponde a un neutrone che entra nella pila dall’esterno. Ogni neutrone causerà una certa perturbazione che alla fine si esaurirà. Se, tuttavia, le dimensioni della pila vengono sufficientemente aumentate, la perturbazione causata da un neutrone in arrivo continuerà molto probabilmente ad aumentare all’infinito fino alla distruzione dell’intera pila. Esiste un fenomeno corrispondente per le menti, e ne esiste uno per le macchine? Sembra che ce ne sia uno per la mente umana. La maggior parte delle menti umane sembra essere “sottocritica”, ovvero, in questa analogia, corrispondere a pile di dimensioni sottocritiche. Un’idea presentata a una mente di questo tipo genererà in media meno di un’idea in risposta. Una piccola percentuale è supercritica. Un’idea presentata a una mente di questo tipo può dare origine a un’intera “teoria” composta da idee secondarie, terziarie e più remote. Le menti degli animali sembrano essere decisamente subcritiche. Seguendo questa analogia, ci chiediamo: “È possibile rendere una macchina supercritica?”

L’analogia della “buccia di cipolla” è altrettanto utile. Considerando le funzioni della mente o del cervello, troviamo certe operazioni che possiamo spiegare in termini puramente meccanici. Diciamo che questo non corrisponde alla vera mente: è una sorta di buccia che dobbiamo rimuovere per arrivare alla vera mente. Ma poi, in ciò che rimane, troviamo un’ulteriore buccia da rimuovere, e così via. Procedendo in questo modo, arriviamo mai alla mente “reale”, o arriviamo infine alla buccia che non contiene nulla? In quest’ultimo caso, l’intera mente è meccanica. (Non sarebbe però una macchina a stati discreti. Ne abbiamo già parlato.)

Questi ultimi due paragrafi non pretendono di essere argomentazioni convincenti. Dovrebbero piuttosto essere descritti come “recitazioni che tendono a produrre convinzione”.

L’unico supporto davvero soddisfacente che si può fornire alla tesi espressa all’inizio del §6 sarà quello derivante dall’attendere la fine del secolo e quindi condurre l’esperimento descritto. Ma cosa possiamo dire nel frattempo? Quali passi dovremmo intraprendere ora affinché l’esperimento abbia successo?

Come ho spiegato, il problema è principalmente di programmazione. Saranno necessari anche progressi nell’ingegneria, ma sembra improbabile che questi non siano sufficienti a soddisfare i requisiti. Le stime della capacità di memoria del cervello variano da 10¹⁰ ^a 10¹⁵ ^cifre binarie. Propendo per i valori più bassi e credo che solo una piccolissima frazione venga utilizzata per i tipi di pensiero più elevati. La maggior parte è probabilmente utilizzata per la conservazione delle impressioni visive; sarei sorpreso se fossero necessari più di 10⁹ ^per giocare in modo soddisfacente al gioco dell’imitazione, almeno contro un cieco. (Nota: la capacità dell’Enciclopedia Britannica , 11ª edizione, è 2 x 10⁹ ⁾ . Una capacità di memoria di ^10⁷ sarebbe una possibilità molto praticabile anche con le tecniche attuali. Probabilmente non è necessario aumentare affatto la velocità di funzionamento delle macchine. Alcune parti delle macchine moderne, che possono essere considerate analoghe alle cellule nervose, funzionano circa mille volte più velocemente di queste ultime. Questo dovrebbe fornire un “margine di sicurezza” che potrebbe coprire le perdite di velocità derivanti da molti fattori. Il nostro problema, quindi, è capire come programmare queste macchine per giocare. Al mio attuale ritmo di lavoro produco circa mille cifre di progratiirne al giorno, quindi circa sessanta operai, lavorando costantemente per cinquant’anni, potrebbero portare a termine il lavoro, se nulla finisse nel cestino della carta straccia. Un metodo più rapido sembra auspicabile.

Nel tentativo di imitare una mente umana adulta, siamo portati a riflettere a lungo sul processo che l’ha condotta allo stato attuale. Possiamo individuare tre componenti.

(a) Lo stato iniziale della mente, diciamo alla nascita,

(b) L’istruzione a cui è stata sottoposta,

(c) Altre esperienze, non riconducibili all’istruzione, alle quali è stata sottoposta.

Invece di cercare di creare un programma che simuli la mente di un adulto, perché non provare a crearne uno che simuli quella di un bambino? Se poi questo venisse sottoposto a un adeguato percorso educativo, si otterrebbe il cervello di un adulto. Presumibilmente, il cervello di un bambino è qualcosa di simile a un quaderno che si compra in cartoleria: pochi meccanismi e molti fogli bianchi. (Dal nostro punto di vista, meccanismi e scrittura sono quasi sinonimi). La nostra speranza è che nel cervello di un bambino ci siano così pochi meccanismi da poter programmare facilmente qualcosa di simile. Possiamo supporre, in prima approssimazione, che la quantità di lavoro necessaria per l’educazione sia più o meno la stessa di quella richiesta a un bambino.

Abbiamo quindi diviso il nostro problema in due parti. Il programma per bambini e il processo educativo. Questi due rimangono strettamente connessi. Non possiamo aspettarci di trovare una buona macchina-bambino al primo tentativo. Bisogna sperimentare insegnando a una di queste macchine e vedere quanto bene impara. Si può poi provare con un’altra e vedere se è migliore o peggiore. C’è un’ovvia connessione tra questo processo e l’evoluzione, attraverso le identificazioni

Struttura della macchina del bambino = materiale ereditario

Cambiamenti della macchina figlia = mutazione,

Selezione naturale = giudizio dello sperimentatore

Si può tuttavia sperare che questo processo sia più rapido dell’evoluzione. La sopravvivenza del più adatto è un metodo lento per misurare i vantaggi. Lo sperimentatore, esercitando la propria intelligenza, dovrebbe essere in grado di accelerarlo. Altrettanto importante è il fatto che non sia limitato a mutazioni casuali. Se riesce a individuare la causa di una qualche debolezza, probabilmente può pensare al tipo di mutazione che la migliorerà.

Non sarà possibile applicare alla macchina esattamente lo stesso processo di insegnamento che si applica a un bambino normale. Ad esempio, non avrà le gambe, quindi non le si potrebbe chiedere di andare a riempire il secchio del carbone. Forse non avrà gli occhi. Ma per quanto queste mancanze possano essere superate grazie a un’ingegneria ingegnosa, non si potrebbe mandare la creatura a scuola senza che gli altri bambini la deridano eccessivamente. Deve ricevere un po’ di istruzione. Non dobbiamo preoccuparci troppo delle gambe, degli occhi, ecc. L’esempio di Miss Helen Keller dimostra che l’istruzione è possibile a condizione che la comunicazione bidirezionale tra insegnante e allievo possa avvenire in qualche modo.

Di solito associamo punizioni e ricompense al processo di apprendimento. Alcune semplici macchine per bambini possono essere costruite o programmate secondo questo principio. La macchina deve essere progettata in modo tale che gli eventi che hanno preceduto di poco la comparsa di un segnale di punizione abbiano una bassa probabilità di ripetersi, mentre un segnale di ricompensa aumenti la probabilità di ripetizione degli eventi che lo hanno preceduto. Queste definizioni non presuppongono alcun sentimento da parte della macchina. Ho condotto alcuni esperimenti con una di queste macchine per bambini e sono riuscito a insegnarle alcune cose, ma il metodo di insegnamento era troppo insolito perché l’esperimento possa essere considerato realmente riuscito.

L’uso di punizioni e ricompense può al massimo essere parte integrante del processo di insegnamento. In linea di massima, se l’insegnante non dispone di altri mezzi di comunicazione con l’alunno, la quantità di informazioni che quest’ultimo può trasmettergli non supera il numero totale di ricompense e punizioni applicate. Se, nel momento in cui un bambino imparasse a ripetere “Casabianca”, si sentisse probabilmente molto frustrato se il testo potesse essere decifrato solo tramite la tecnica delle “Venti domande”, in cui ogni “NO” assume la forma di un colpo, probabilmente si tratterebbe di una punizione. È quindi necessario disporre di altri canali di comunicazione “non emotivi”. Se questi sono disponibili, è possibile insegnare a una macchina, tramite punizioni e ricompense, a obbedire a comandi impartiti in un linguaggio, ad esempio un linguaggio simbolico. Questi comandi devono essere trasmessi attraverso i canali “non emotivi”. L’uso di tale linguaggio ridurrà notevolmente il numero di punizioni e ricompense necessarie.

Le opinioni possono variare riguardo al livello di complessità appropriato per la macchina del bambino. Si potrebbe cercare di renderla il più semplice possibile, in linea con i principi generali. In alternativa, si potrebbe integrare un sistema completo di inferenza logica. In quest’ultimo caso, la memoria sarebbe in gran parte occupata da definizioni e proposizioni. Le proposizioni avrebbero vari tipi di status, ad esempio fatti consolidati, congetture, teoremi matematicamente dimostrati, affermazioni di un’autorità, espressioni che hanno la forma logica di una proposizione ma non un valore di credenza. Alcune proposizioni possono essere descritte come “imperativi”. La macchina dovrebbe essere costruita in modo tale che, non appena un imperativo viene classificato come “consolidato”, l’azione appropriata si verifichi automaticamente. Per illustrare ciò, supponiamo che l’insegnante dica alla macchina: “Fai i compiti ora”. Questo potrebbe far sì che “L’insegnante dice ‘Fai i compiti ora’” venga incluso tra i fatti consolidati. Un altro fatto di questo tipo potrebbe essere: “Tutto ciò che dice l’insegnante è vero”. La combinazione di questi elementi potrebbe eventualmente portare all’inclusione dell’imperativo “Fai i compiti ora” tra i fatti consolidati, e questo, per come è costruita la macchina, significherà che i compiti inizieranno effettivamente, ma l’effetto sarà molto soddisfacente. I processi di inferenza utilizzati dalla macchina non devono necessariamente essere tali da soddisfare i logici più esigenti. Potrebbe, ad esempio, non esserci alcuna gerarchia di tipi. Ma questo non significa necessariamente che si verificheranno fallacie di tipo, così come non siamo destinati a cadere da dirupi senza protezioni. Imperativi appropriati (espressi all’interno dei sistemi, non facenti parte delle regole del sistema) come “Non usare una classe a meno che non sia una sottoclasse di una menzionata dall’insegnante” possono avere un effetto simile a “Non avvicinarti troppo al limite”.

Gli imperativi che possono essere obbediti da una macchina priva di arti sono necessariamente di carattere intellettuale, come nell’esempio (fare i compiti) citato in precedenza. Tra questi imperativi, rivestono particolare importanza quelli che regolano l’ordine di applicazione delle regole del sistema logico in questione. Infatti, in ogni fase dell’utilizzo di un sistema logico, esiste un numero molto elevato di passaggi alternativi, ognuno dei quali è consentito applicare, purché si rispettino le regole del sistema logico. Sono queste scelte a fare la differenza tra un ragionatore brillante e uno mediocre, non tra un ragionatore corretto e uno fallace. Esempi di proposizioni che conducono a imperativi di questo tipo potrebbero essere: “Quando si menziona Socrate, usa il sillogismo di Barbara” oppure “Se un metodo si è dimostrato più veloce di un altro, non usare quello più lento”. Alcuni di questi imperativi possono essere “imposti per autorità”, ma altri possono essere prodotti dalla macchina stessa, ad esempio per induzione scientifica.

L’idea di una macchina che apprende può apparire paradossale ad alcuni lettori. Come possono cambiare le regole di funzionamento della macchina? Dovrebbero descrivere in modo completo come la macchina reagirà, qualunque sia la sua storia, qualunque siano i cambiamenti che subisce. Le regole sono quindi sostanzialmente invarianti nel tempo. Questo è assolutamente vero. La spiegazione del paradosso sta nel fatto che le regole che cambiano nel processo di apprendimento sono di un tipo ben meno pretenzioso, rivendicando solo una validità effimera. Il lettore può tracciare un parallelo con la Costituzione degli Stati Uniti.

Una caratteristica importante di una macchina che apprende è che il suo insegnante sarà spesso in gran parte all’oscuro di ciò che accade al suo interno, sebbene possa comunque essere in grado, in una certa misura, di prevedere il comportamento del suo allievo. Questo dovrebbe valere soprattutto per la fase di apprendimento di una macchina derivante da una macchina “figlia” di progettazione (o programma) collaudata. Ciò contrasta nettamente con la normale procedura di utilizzo di una macchina per eseguire calcoli: in quel caso, l’obiettivo è avere un’immagine mentale chiara dello stato della macchina in ogni istante del calcolo. Questo obiettivo può essere raggiunto solo con fatica. L’idea che “la macchina possa fare solo ciò che sappiamo ordinarle di fare” appare alquanto bizzarra alla luce di ciò. La maggior parte dei programmi che possiamo inserire nella macchina la porteranno a fare qualcosa che non riusciamo a comprendere (o che consideriamo un comportamento completamente casuale). Il comportamento intelligente presumibilmente consiste in una deviazione dal comportamento completamente disciplinato implicato nel calcolo, ma piuttosto lieve, che non dà origine a comportamenti casuali o a cicli ripetitivi senza senso. Un altro importante risultato della preparazione della nostra macchina al suo ruolo nel gioco dell’imitazione attraverso un processo di insegnamento e apprendimento è che la “fallibilità umana” sarà probabilmente omessa in modo piuttosto naturale, cioè senza un “coaching” speciale. (Il lettore dovrebbe conciliare questo con il punto di vista alle pagine 23 e 24). I processi che vengono appresi non producono una certezza del cento per cento del risultato; se lo facessero, non potrebbero essere disimparati.

Probabilmente è saggio includere un elemento casuale in un algoritmo di apprendimento automatico. Un elemento casuale è piuttosto utile quando si cerca la soluzione di un problema. Supponiamo, ad esempio, di voler trovare un numero compreso tra 50 e 200 che sia uguale al quadrato della somma delle sue cifre: potremmo iniziare da 51, poi provare con 52 e continuare fino a trovare un numero valido. In alternativa, potremmo scegliere numeri a caso fino a trovarne uno adatto. Questo metodo ha il vantaggio di non richiedere la memorizzazione dei valori provati, ma lo svantaggio di poter ripetere lo stesso valore due volte; tuttavia, questo non è un problema rilevante se esistono diverse soluzioni. Il metodo sistematico, invece, presenta lo svantaggio di poter individuare un’ampia area senza soluzioni, che deve essere esplorata preventivamente. Il processo di apprendimento può quindi essere considerato come la ricerca di un comportamento che soddisfi l’insegnante (o qualche altro criterio). Poiché è probabile che esista un numero molto elevato di soluzioni soddisfacenti, il metodo casuale sembra essere migliore di quello sistematico. È interessante notare che viene utilizzato anche nel processo analogo dell’evoluzione. Ma in questo caso il metodo sistematico non è possibile. Come si potrebbe tenere traccia delle diverse combinazioni genetiche già sperimentate, in modo da evitare di riproporle?

Possiamo sperare che le macchine, un giorno, possano competere con gli uomini in tutti i campi puramente intellettuali. Ma quali sono i migliori da cui iniziare? Anche questa è una decisione difficile. Molti pensano che un’attività molto astratta, come giocare a scacchi, sarebbe l’ideale. Si potrebbe anche sostenere che la soluzione migliore sia dotare la macchina dei migliori organi di senso che il denaro possa comprare, e poi insegnarle a capire e parlare inglese. Questo processo potrebbe seguire il normale metodo di insegnamento a un bambino: le cose verrebbero indicate e nominate, ecc. Ripeto, non so quale sia la risposta giusta, ma credo che entrambi gli approcci debbano essere sperimentati.

Possiamo vedere solo un breve tratto davanti a noi, ma vediamo che c’è molto da fare.