Confutare invece di confermare: il senso critico nell’era dell’IA

Introduzione

Una delle osservazioni che possono emergere dall’uso quotidiano dell’intelligenza artificiale e dei social network riguarda il rapporto tra informazione e convinzioni personali. Gli algoritmi di raccomandazione tendono a selezionare contenuti sulla base degli interessi e dei comportamenti dell’utente. Il risultato può essere un ambiente informativo nel quale incontriamo sempre più facilmente ciò che è compatibile con quello che già pensiamo.

Il problema, allora, non è soltanto la disinformazione. È anche la conferma continua.

«La nostra conoscenza può essere finita, ma la nostra ignoranza deve essere necessariamente infinita.»
— Karl Popper, Conjectures and Refutations, 1963

La citazione di Karl Popper introduce una prospettiva particolarmente interessante: se la nostra conoscenza è sempre incompleta, una posizione intellettualmente seria dovrebbe lasciare spazio alla possibilità di essere smentita.

Podcast MP3 per chi deve prendere decisioni

Dalla conferma alla confutazione

Quando cerchiamo informazioni su un argomento, è naturale cercare quelle che confermano la nostra posizione. È una tendenza umana ben conosciuta: una volta formulata un’ipotesi, diventa più facile prestare attenzione agli elementi che la sostengono e trascurare quelli che la mettono in discussione.

L’intelligenza artificiale può amplificare questa dinamica.

Se chiediamo a un sistema di IA di sviluppare una nostra idea, normalmente esso può diventare molto efficace nel renderla più ordinata, convincente e articolata. Ma proprio questa capacità può trasformarsi in un limite: un’intelligenza artificiale utilizzata soltanto per avvalorare le nostre idee rischia di diventare uno strumento di conferma personale.

La domanda più interessante diventa quindi un’altra:

non «perché ho ragione?», ma «che cosa potrebbe dimostrare che ho torto?»

Questa è la differenza tra avvalorare e confutare.

L’ispirazione di Popper

Il pensiero di Popper rappresenta un riferimento naturale per questa impostazione. Nella filosofia della scienza, Popper attribuisce un ruolo centrale alla possibilità che una teoria possa essere sottoposta a controlli capaci, almeno in linea di principio, di mostrarne l’errore.

«A theory which is not refutable by any conceivable event is non-scientific.»
— Karl Popper, The Logic of Scientific Discovery, 1959

Trasportare questa idea nel processo decisionale non significa sostenere che ogni decisione sia una teoria scientifica. Significa utilizzare una disciplina del pensiero ispirata alla stessa esigenza: non proteggere l’ipotesi dalle obiezioni, ma esporla intenzionalmente alle obiezioni.

Una decisione può quindi essere considerata più robusta non semplicemente perché dispone di molti argomenti a favore, ma perché ha resistito a una ricerca intenzionale di argomenti contrari.

PENSAI e la ricerca del dissenso

È in questo punto che si colloca una delle possibili caratteristiche distintive di PENSAI.

Il principio può essere espresso in forma semplice:

PENSAI cerca chi non la pensa come il suo creatore.

Non significa cercare artificialmente qualcuno che abbia un’opinione opposta. Significa cercare, prima della decisione, le informazioni, le obiezioni e le interpretazioni che potrebbero mettere in crisi l’ipotesi iniziale.

Il processo diventa quindi:

problema → ipotesi → argomenti favorevoli → ricerca della confutazione → verifica → decisione.

La differenza rispetto alla semplice generazione di argomenti è sostanziale.

L’obiettivo non è trovare necessariamente una posizione contraria «vincente». L’obiettivo è verificare quanto la posizione iniziale sia capace di resistere al confronto con ciò che la contraddice.

Se l’ipotesi sopravvive, non diventa per questo una verità assoluta. Diventa una posizione che, sulla base delle informazioni disponibili, ha superato un tentativo esplicito di confutazione.

Il senso critico nell’era degli algoritmi

La questione dei social network rende questo principio ancora più attuale.

Un ambiente informativo personalizzato può essere estremamente efficace nel mostrarci contenuti che ci interessano. Ma interesse e verità non sono la stessa cosa. Ciò che conferma le nostre convinzioni può essere più piacevole, più coinvolgente e più facile da accettare di ciò che le mette in discussione.

Il rischio è quindi una progressiva riduzione dell’attrito cognitivo.

Non necessariamente perdiamo la capacità di pensare criticamente. Possiamo però trovarci in ambienti nei quali siamo meno frequentemente costretti a farlo.

L’IA potrebbe aggravare questo fenomeno oppure contribuire a contrastarlo.

Può essere una macchina straordinariamente efficace per costruire argomenti a sostegno di una posizione. Ma può anche essere utilizzata per svolgere l’operazione inversa: cercare sistematicamente ciò che potrebbe rendere quella posizione insostenibile.

La seconda funzione è più difficile, perché richiede di accettare la possibilità che il risultato finale non coincida con l’idea iniziale dell’utente.

Conclusione

Il valore di un sistema decisionale non dovrebbe essere misurato soltanto dalla sua capacità di trovare una risposta, ma anche dalla sua capacità di mettere alla prova quella risposta.

La lezione che si può trarre dall’ispirazione popperiana è quindi semplice: una buona idea non dovrebbe essere protetta dalla critica; dovrebbe essere esposta alla critica.

PENSAI può assumere questa esigenza come principio metodologico:

Non cercare chi ti dà ragione. Cerca chi potrebbe dimostrare che hai torto.

È una tecnica difficile. Richiede più tempo della semplice conferma e non garantisce automaticamente la correttezza della decisione. Ma introduce qualcosa che un sistema orientato esclusivamente alla conferma rischia di perdere: la possibilità concreta di cambiare idea prima che sia troppo tardi.

Citazioni e riferimenti essenziali

• Popper, K. R., The Logic of Scientific Discovery, Hutchinson, London, 1959.
• Popper, K. R., Conjectures and Refutations: The Growth of Scientific Knowledge, Routledge & Kegan Paul, London, 1963.
• Popper, K. R., The Open Society and Its Enemies, Routledge, London, 1945.
• Festinger, L., A Theory of Cognitive Dissonance, Stanford University Press, 1957.

Nota sulle citazioni: le formulazioni inglesi attribuite a Popper sono riportate in forma breve e riferite alle opere indicate; eventuali traduzioni italiane sono rese in forma non letterale per mantenere il significato nel contesto dell’articolo.

Disclaimer sull’utilizzo dell’IA

Questo articolo è stato elaborato con il supporto di un sistema di intelligenza artificiale. L’IA è stata utilizzata come strumento di elaborazione, confronto e organizzazione delle idee. Le considerazioni espresse rappresentano un’elaborazione concettuale e non costituiscono una ricostruzione esaustiva del pensiero di Karl Popper né intendono sostituire la consultazione delle opere originali e della letteratura scientifica sul tema.