Susan Calvin e il robot che impara dalla realtà: PENSAI e il futuro della robotica
Dalla fantascienza di Asimov ai robot che apprendono nel mondo reale: l’ipotesi di una IA governata da PENSAI.
C’è un momento, nella storia della robotica, in cui la macchina smette di essere soltanto una macchina.
Non è necessariamente il momento in cui cammina su due gambe, riconosce un volto o riesce a prendere un oggetto senza farlo cadere. È un momento più difficile da individuare: quello in cui il robot comincia a imparare dall’esperienza.
È qui che, quasi inevitabilmente, torna alla memoria Susan Calvin.
La robopsicologa immaginata da Isaac Asimov non appartiene alla storia della tecnologia, ma alla letteratura. Eppure la sua funzione narrativa conserva una sorprendente attualità: Calvin non si limita a osservare ciò che un robot fa. Cerca di capire perché lo fa.
La differenza sembra sottile. Non lo è.
Perché un robot programmato esegue istruzioni. Un robot che apprende deve invece confrontarsi con qualcosa che il programmatore non può descrivere interamente in anticipo: la realtà.
Il mondo non è un simulatore
Per anni una parte importante della ricerca robotica ha cercato di risolvere il problema attraverso la simulazione. È una scelta quasi obbligata: nel mondo virtuale si possono produrre migliaia o milioni di tentativi senza rompere un braccio robotico, consumare un attuatore o mettere in pericolo una persona.
L’apprendimento per rinforzo ha prodotto risultati importanti proprio grazie a questa possibilità.
Ma quando il robot esce dalla simulazione comincia un’altra storia.
Il pavimento reale non è perfettamente uguale a quello simulato. Un motore non risponde esattamente come il modello matematico. Una telecamera produce rumore. Una superficie cambia con la luce. Un oggetto può essere più pesante di quanto previsto. Una persona può entrare improvvisamente nella traiettoria.
La letteratura scientifica definisce questo problema sim-to-real gap: trasferire nel mondo fisico ciò che è stato appreso in un ambiente simulato. Una recente rassegna pubblicata su Robotics and Autonomous Systems descrive proprio questa difficoltà e le tecniche utilizzate per ridurla, dalla randomizzazione dei parametri alla modellazione degli attuatori e al raffinamento iterativo delle politiche.
La questione, dunque, non è più soltanto insegnare al robot.
È insegnargli a vivere con l’imprevisto.
E allora bisogna andare nella realtà
Qui l’idea diventa più radicale.
Un robot destinato a operare nel mondo dovrebbe poter imparare anche dal mondo.
Non soltanto dai dati raccolti dagli esseri umani. Non soltanto dalla simulazione. Non soltanto da una rete neurale addestrata prima della consegna.
Dovrebbe poter osservare, tentare, fallire, correggersi e ritentare.
È esattamente ciò che rende così interessante l’apprendimento per rinforzo applicato alla robotica. Ma è anche il suo problema più serio: il mondo fisico è costoso e può essere pericoloso come ambiente di prova. Una rassegna pubblicata nel 2024 sull’apprendimento per rinforzo profondo nei robot sottolinea proprio la differenza tra il grande successo ottenuto in simulazione e le difficoltà, i costi e i rischi dell’apprendimento direttamente nel mondo reale.
Ecco allora la domanda che la fantascienza aveva posto molto prima della tecnologia:
che cosa succede quando la macchina impara qualcosa che nessuno le aveva insegnato?
Susan Calvin non aveva bisogno di una rete neurale
In I, Robot, pubblicato nel 1950, Asimov raccoglie storie nelle quali i robot non sono semplicemente automi obbedienti. Sono sistemi che devono interpretare regole in situazioni che gli esseri umani non avevano previsto.
Susan Calvin è dentro questo problema.
Le Tre Leggi della Robotica sembrano semplici. Ma proprio le storie di Asimov mostrano che una regola apparentemente inequivocabile può produrre comportamenti inattesi quando viene applicata a una realtà complessa.
È una delle ragioni per cui il personaggio di Calvin è ancora interessante.
La sua domanda implicita non è soltanto:
“Quale regola sta seguendo il robot?”
È:
“Come sta interpretando la situazione?”
Oggi potremmo formulare la stessa domanda con parole completamente diverse.
Un modello di IA genera una previsione.
Un sistema robotico genera una possibile azione.
Ma chi stabilisce che quella possibilità sia effettivamente autorizzata?
Qui entra PENSAI
È in questo punto che l’ipotesi PENSAI diventa interessante, ma deve essere trattata per quello che è: un’ipotesi architetturale da verificare sperimentalmente, non una tecnologia robotica già dimostrata.
L’idea non sarebbe mettere PENSAI al posto dell’intelligenza artificiale.
- Sarebbe quasi il contrario.
- L’IA potrebbe imparare.
- Potrebbe riconoscere.
- Potrebbe prevedere.
- Potrebbe generare comportamenti.
- Il robot potrebbe muoversi.
- PENSAI potrebbe governare il passaggio dalla possibilità alla decisione.
La sequenza sarebbe quella già propria del metodo:
STATO → OBIETTIVO → OPZIONI → VINCOLI → VALUTAZIONE → DECISIONE → AZIONE → VERIFICA.
Immaginiamo un piccolo robot mobile.
Ha imparato, attraverso migliaia di esperienze, che quando trova un ostacolo può aggirarlo da destra o da sinistra.
Un sistema puramente orientato alla prestazione potrebbe scegliere la traiettoria che considera migliore.
Un sistema governato da PENSAI dovrebbe prima chiedersi se entrambe le possibilità siano ammissibili.
A sinistra potrebbe esserci una persona.
A destra un gradino.
Una terza possibilità potrebbe essere fermarsi.
L’apprendimento ha generato le opzioni.
Non ha ancora deciso.
Questa distinzione è il cuore dell’ipotesi.
Imparare non significa avere il permesso di agire
È una distinzione che sembra quasi ovvia quando riguarda gli esseri umani.
Un bambino può imparare che un coltello taglia. Non per questo gli consegniamo automaticamente un coltello e gli diciamo di sperimentare.
Con un robot la distinzione diventa ingegneristica.
Il sistema deve poter acquisire esperienza, ma l’esperienza deve essere sottoposta a condizioni.
Una politica appresa può quindi essere considerata una proposta di comportamento, non necessariamente un comando.
Il robot potrebbe imparare:
“Quando succede X, generalmente funziona Y.”
PENSAI potrebbe verificare:
“In questa situazione concreta, Y è ammissibile?”
Se la risposta è negativa, quella conoscenza non viene necessariamente cancellata.
Semplicemente non viene autorizzata in quel contesto.
È una separazione che potrebbe diventare importante proprio perché il robot impara continuamente.
La macchina deve poter dire no
Forse il passaggio più interessante non è insegnare al robot a fare qualcosa.
È insegnargli a non farla quando le condizioni non sono sufficienti.
Il concetto non è estraneo alla ricerca contemporanea sulla governance dell’IA. Il NIST AI Risk Management Framework insiste sulla necessità di definire ruoli, responsabilità e modalità di supervisione lungo il ciclo di vita dei sistemi di IA, distinguendo configurazioni completamente autonome da quelle nelle quali il sistema può rinviare la decisione a un essere umano.
Anche il diritto europeo si muove in questa direzione. L’articolo 14 dell’AI Act stabilisce, per i sistemi di IA ad alto rischio, requisiti di sorveglianza umana proporzionati al rischio e al livello di autonomia; tra le capacità previste per la supervisione rientrano anche la possibilità di intervenire e interrompere il sistema in condizioni sicure.
Non è PENSAI.
Ma è un contesto nel quale il problema della governance dell’autonomia è ormai diventato concreto.
Il vero laboratorio sarebbe la realtà
A questo punto la proposta può diventare sperimentale. Non servirebbe cominciare da un androide. Anzi, sarebbe probabilmente un errore. Si potrebbe costruire un robot molto semplice: ruote, sensori, telecamera, computer di bordo e alcuni attuatori.
prima la simulazione.
- Poi un ambiente fisico controllato.
- Poi ostacoli reali.
- Poi variabilità.
- Poi persone.
Il robot imparerebbe.
Ogni esperienza produrrebbe dati.
Il modello potrebbe migliorare.
Ma ogni nuovo comportamento dovrebbe attraversare un livello distinto di valutazione.
E qui sarebbe possibile fare qualcosa che spesso manca nelle discussioni sull’intelligenza artificiale: misurare.
- Quanti comportamenti vengono appresi?
- Quanti vengono rifiutati?
- Quanti vengono modificati?
- Quanti richiedono l’intervento umano?
- Quanti errori vengono evitati?
Il sistema diventa così un esperimento e non soltanto una teoria.
La domanda di Susan Calvin
Forse è questa la ragione per cui Susan Calvin continua a tornare.
Non perché Asimov avesse previsto le reti neurali moderne.
Non le aveva previste in questa forma.
E nemmeno perché le Tre Leggi possano essere semplicemente trasformate in software.
La sua importanza è più profonda.
Calvin appartiene a una stagione della fantascienza nella quale il problema del robot non era ancora quello di costruire una macchina più potente.
Era capire che cosa accade quando una macchina abbastanza complessa comincia a comportarsi in modi che l’uomo non aveva previsto.
Oggi siamo molto più vicini a quella domanda.
Non abbiamo ancora robot generalisti che imparano autonomamente tutto ciò che serve per vivere nel mondo. Ma abbiamo già sistemi robotici capaci di apprendimento, trasferimento dalla simulazione alla realtà, apprendimento da dimostrazione e controllo adattivo. La ricerca mostra contemporaneamente progressi e limiti: alcune competenze sono ormai trasferibili con risultati significativi, mentre altre rimangono molto più difficili.
La frontiera, dunque, potrebbe non essere semplicemente il robot che impara.
Potrebbe essere il robot che impara senza diventare incontrollabile.
E qui PENSAI potrebbe tentare di occupare uno spazio preciso: non quello dell’intelligenza della macchina, ma quello della decisione governata.
L’IA genera. La realtà insegna. Il robot esegue. PENSAI governa il passaggio. E, quando necessario, la macchina si ferma.
Forse Susan Calvin avrebbe cominciato proprio da lì.
Non chiedendo quanto fosse intelligente il robot.
Ma una domanda molto più scomoda:
“Perché hai deciso di farlo?”
Bibliografia essenziale verificata
- Asimov, I. (1950), I, Robot, Gnome Press. L’opera raccoglie racconti robotici collegati e introduce, nella forma canonica dell’antologia, il problema delle Tre Leggi e personaggi come Susan Calvin.
- Tang, C., Abbatematteo, B., Hu, J., Chandra, R., Martín-Martín, R., Stone, P. (2024), “Deep Reinforcement Learning for Robotics: A Survey of Real-World Successes”, Annual Review of Control, Robotics, and Autonomous Systems, 8, 153–188.
- Tiwari, R., Khapre, S., Singh, A. (2026), “Reinforcement learning in robotic systems: A review on sim-to-real transfer”, Robotics and Autonomous Systems, 198, 105327.
- Correia, A., Alexandre, L. A. (2024), “A survey of demonstration learning”, Robotics and Autonomous Systems, 182, 104812.
- Tabassi, E. (2023), Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1.
- Parlamento europeo e Consiglio dell’Unione europea (2024), Regolamento (UE) 2024/1689 – Artificial Intelligence Act, in particolare art. 14 sulla sorveglianza umana e art. 15 su accuratezza, robustezza e cibersicurezza.
Disclaimer sull’uso dell’IA
Questo saggio è stato elaborato con il supporto di sistemi di intelligenza artificiale. Le interpretazioni riguardanti PENSAI e il possibile impiego nella robotica hanno carattere esplorativo e ipotetico e non costituiscono la descrizione di una tecnologia robotica già realizzata o validata. I riferimenti bibliografici e normativi sono stati verificati su fonti accessibili online; la verifica delle fonti non equivale alla validazione sperimentale delle ipotesi formulate nel testo.
