Modalità agnostica: il metodo PENSAI per cercare la verità
Agnosticismo, evidenze e ricerca della verità nell’IA
Non partire dalla risposta
Uno dei problemi più difficili quando si deve prendere una decisione non è trovare una risposta. È evitare di averla già decisa prima ancora di aver analizzato il problema.
È una distinzione apparentemente semplice, ma fondamentale.
Quando una persona, un’organizzazione o un sistema di intelligenza artificiale affronta una questione, può partire da una convinzione e cercare successivamente gli elementi che la confermano. Oppure può fare il contrario: sospendere temporaneamente il giudizio, considerare le alternative e lasciare che siano le evidenze a determinare progressivamente quale conclusione risulta più sostenibile.
È in questo secondo atteggiamento che può essere collocata quella che, all’interno di PENSAI, può essere definita modalità agnostica.
Non significa non avere opinioni. Non significa considerare tutte le possibilità equivalenti. E soprattutto non significa rinunciare a decidere.
Significa non stabilire in anticipo quale risposta debba essere vera.
Agnosticismo non significa indecisione
La parola “agnostico” può generare un equivoco.
Nell’uso comune può sembrare sinonimo di sospensione permanente del giudizio: non sappiamo, quindi non possiamo concludere nulla.
Ma un metodo decisionale non può fermarsi necessariamente a questo punto.
Nella realtà, infatti, molte decisioni devono essere prese quando le informazioni sono incomplete. Non disponiamo quasi mai di una conoscenza perfetta del futuro e spesso non possiamo dimostrare una proposizione con certezza assoluta.
PENSAI deve quindi distinguere due situazioni.
La prima è:
“Non abbiamo abbastanza evidenze per stabilire quale alternativa sia migliore.”
La seconda è:
“Non abbiamo certezza assoluta, ma le evidenze disponibili favoriscono nettamente una delle alternative.”
Trattare entrambe le situazioni allo stesso modo sarebbe un errore.
Nel primo caso è ragionevole sospendere la conclusione o dichiarare l’incertezza.
Nel secondo caso è ragionevole scegliere l’alternativa maggiormente supportata, specificando però il grado di confidenza.
L’agnosticismo di PENSAI è quindi soprattutto un agnosticismo operativo.
Dalla neutralità alla valutazione
Essere agnostici non significa essere neutrali rispetto alle evidenze.
Questa è probabilmente la distinzione più importante.
Supponiamo di avere due ipotesi, A e B.
All’inizio PENSAI non dovrebbe attribuire ad A un vantaggio semplicemente perché è la prima ipotesi formulata, perché è quella preferita dall’utente o perché appare intuitivamente più convincente.
A e B vengono mantenute entrambe disponibili.
Successivamente arrivano le evidenze.
Se le evidenze sostengono A più di B, la valutazione deve cambiare.
Non sarebbe più corretto dire che A e B sono equivalenti soltanto perché non possiamo raggiungere una certezza del 100%.
L’agnosticismo, quindi, riguarda il punto di partenza, non necessariamente il punto di arrivo.
Prima della valutazione:
nessuna conclusione è privilegiata.
Dopo la valutazione:
le conclusioni possono avere gradi differenti di supporto.
Questo permette di evitare contemporaneamente due errori opposti: il dogmatismo e il relativismo.
Il massimo grado di verità possibile
A questo punto emerge una questione ancora più importante: che cosa significa cercare il “massimo grado di verità possibile”?
Non significa che PENSAI possa stabilire matematicamente la verità assoluta di ogni proposizione.
Una simile pretesa sarebbe incompatibile con il fatto che molte decisioni vengono prese in condizioni di informazione incompleta, ambigua o contraddittoria.
Il concetto deve essere inteso in senso epistemico.
PENSAI cerca la conclusione che, date le informazioni disponibili, presenta il maggiore grado di giustificazione rispetto alle alternative.
In forma semplificata:
massimo grado di verità possibile = migliore conclusione giustificabile dalle evidenze disponibili
Questo introduce una differenza fondamentale tra verità e certezza.
Una conclusione può avere un alto grado di supporto senza essere certa.
Allo stesso modo, una conclusione espressa con grande sicurezza non diventa più vera per il solo fatto di essere formulata in modo categorico.
La confidenza deve quindi seguire le evidenze, non sostituirle.
L’IA e il rischio della risposta già pronta
La questione diventa particolarmente interessante quando entra in gioco l’intelligenza artificiale.
Un sistema di IA è estremamente efficace nel generare spiegazioni, ipotesi, argomentazioni e possibili risposte. Ma proprio questa capacità può creare un problema: una risposta linguisticamente convincente può apparire più solida di quanto siano realmente le evidenze che la sostengono.
Il problema non è soltanto evitare l’errore fattuale.
È evitare che la capacità di produrre una risposta venga confusa con la capacità di stabilire che quella risposta sia vera.
Da questo punto di vista, una modalità agnostica introduce una disciplina.
L’IA può generare le possibilità.
PENSAI deve contribuire a metterle alla prova.
Questo significa separare almeno tre momenti:
- generazione delle ipotesi;
- valutazione delle evidenze;
- selezione della conclusione.
Se questi tre momenti vengono confusi, il sistema rischia di trasformare la prima spiegazione plausibile nella spiegazione definitiva.
Se invece vengono separati, diventa possibile correggere la direzione del ragionamento quando arrivano nuove informazioni.
Una conclusione deve poter perdere
Un vero atteggiamento agnostico richiede una proprietà precisa: la conclusione deve poter essere modificata.
Se una nuova evidenza importante non può cambiare la decisione, allora probabilmente la decisione era stata fissata prima della valutazione.
Questo rappresenta uno dei possibili criteri di verifica della modalità agnostica.
Un sistema può essere considerato realmente agnostico se, a parità di metodo, una modifica significativa delle evidenze produce una modifica della valutazione quando quella modifica è logicamente giustificata.
In altre parole:
non bisogna proteggere la conclusione; bisogna proteggere il processo che permette di correggerla.
È una differenza sostanziale.
La robustezza di un metodo non deriva dal fatto che mantiene sempre la stessa risposta. Deriva dalla capacità di cambiare risposta quando cambiano le ragioni che la sostengono.
L’incertezza come informazione
In questo modello anche l’incertezza assume un significato diverso.
Tradizionalmente si tende a considerarla una debolezza della risposta.
Un sistema che dice “non sono sicuro” può sembrare meno efficace di uno che risponde con sicurezza.
Ma, dal punto di vista epistemico, l’incertezza può essere un’informazione preziosa.
Se le evidenze sono deboli, dichiarare un’elevata certezza significa aggiungere informazione che non possediamo.
Se invece la certezza viene calibrata sulla qualità delle evidenze, l’incertezza diventa parte integrante della risposta.
PENSAI dovrebbe quindi poter produrre non soltanto:
“La scelta è A.”
ma anche:
“La scelta più supportata è A, con un livello di confidenza limitato perché permangono queste specifiche incertezze.”
Questa formulazione è meno spettacolare, ma epistemicamente più corretta.
Agnosticismo contro bias
La modalità agnostica può essere vista anche come una barriera contro alcuni dei principali errori del processo decisionale.
Il primo è il bias di conferma: cercare soprattutto le informazioni che confermano ciò che pensiamo già.
Il secondo è l’ancoraggio: attribuire un peso eccessivo alla prima informazione ricevuta.
Il terzo è la falsa certezza: trasformare una valutazione probabilistica in una dichiarazione assoluta.
Il quarto è il relativismo epistemico: concludere che, poiché la certezza assoluta è difficile, tutte le opinioni valgono necessariamente allo stesso modo.
La modalità agnostica non elimina automaticamente questi problemi, ma introduce un principio metodologico per contrastarli:
la preferenza per una conclusione deve derivare dalle evidenze, non dal fatto che quella conclusione sia stata formulata per prima o sia più desiderabile.
Una possibile regola fondamentale di PENSAI
Da questa impostazione può essere ricavata una regola molto semplice:
Nessuna conclusione è privilegiata in anticipo; ogni conclusione deve guadagnare il proprio grado di credibilità attraverso le evidenze.
Questa regola non promette l’infallibilità.
Promette qualcosa di più realistico: un processo nel quale l’errore può essere riconosciuto e la conclusione può essere aggiornata.
È proprio qui che la modalità agnostica acquista valore.
Non pretende di trasformare l’incertezza in certezza.
Cerca invece di impedire che l’incertezza venga nascosta.
La verità come processo di avvicinamento
Se PENSAI deve essere utilizzato per affrontare problemi reali, il concetto di verità non può essere separato dal concetto di aggiornamento.
Una decisione viene presa sulla base delle informazioni disponibili in un determinato momento.
Domani potrebbero arrivare nuove informazioni.
La conclusione potrebbe quindi cambiare.
Questo non significa necessariamente che il metodo precedente fosse sbagliato. Può significare che il metodo ha correttamente utilizzato le informazioni disponibili fino a quel momento.
La ricerca della verità diventa così un processo dinamico:
ipotesi → evidenze → valutazione → conclusione → nuove evidenze → aggiornamento.
In questa prospettiva, il valore di PENSAI non consiste nel produrre una risposta immutabile.
Consiste nel costruire un percorso nel quale la risposta rimane proporzionata alla conoscenza effettivamente disponibile.
Conclusione
La modalità agnostica di PENSAI può quindi essere definita come una disciplina del processo decisionale.
Non partire dalla risposta.
Non confondere plausibilità con verità.
Non trattare l’incertezza come un fallimento.
Non considerare equivalenti ipotesi che le evidenze distinguono.
E, soprattutto, mantenere sempre aperta la possibilità di correggere la conclusione.
Il “massimo grado di verità possibile” non è dunque la promessa di conoscere tutto.
È qualcosa di più concreto: cercare, in ogni momento, la conclusione maggiormente giustificata da ciò che sappiamo, dichiarando ciò che ancora non sappiamo.
In questo senso l’agnosticismo non è l’opposto della decisione.
È ciò che può rendere la decisione più disciplinata.
E per un sistema di intelligenza artificiale, potrebbe essere una delle condizioni fondamentali per passare dalla semplice produzione di risposte a una forma più rigorosa di supporto al pensiero e alla decisione.
PENSAI non deve sapere già quale sia la verità. Deve essere progettato per avvicinarsi ad essa senza presumere di averla già raggiunta.
- NIST – AI Risk Management Framework (AI RMF 1.0)
È probabilmente la fonte più importante per il saggio. NIST identifica tra le caratteristiche dell’IA affidabile validità, affidabilità, trasparenza, spiegabilità, accountability e gestione dei bias. È molto coerente con l’idea PENSAI di calibrare la conclusione sulla qualità delle evidenze.
NIST – AI Risk Management Framework - NIST – AI Risk Management Framework: AI Risks and Trustworthiness
Utile in particolare per sostenere il passaggio del saggio su accuratezza, validazione, affidabilità e rapporto tra evidenza e attendibilità. NIST sottolinea che sistemi inaccurati o non robusti riducono l’affidabilità e aumentano i rischi.
NIST – AI Risks and Trustworthiness - UNESCO – Recommendation on the Ethics of Artificial Intelligence
È la fonte istituzionale più adatta per la parte relativa a trasparenza, spiegabilità, supervisione umana, responsabilità e gestione dei bias. La Raccomandazione UNESCO è stata adottata nel 2021 ed è applicabile agli Stati membri UNESCO.
UNESCO – Recommendation on the Ethics of Artificial Intelligence
Riferimenti
- Tabassi, E. (2023), Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST, AI 100-1. DOI: 10.6028/NIST.AI.100-1.
- National Institute of Standards and Technology (NIST), AI Risk Management Framework – AI Risks and Trustworthiness.
- UNESCO (2021), Recommendation on the Ethics of Artificial Intelligence.
Nota importante: queste fonti non dimostrano che PENSAI sia corretto e non definiscono la “modalità agnostica di PENSAI”. Servono come riferimenti esterni per concetti compatibili con il modello proposto: affidabilità, validazione, trasparenza, bias, supervisione e gestione dell’incertezza. La definizione specifica di modalità agnostica PENSAI rimane una elaborazione concettuale propria del progetto.
Disclaimer uso IA
Disclaimer sull’uso dell’IA
Questo articolo è stato elaborato con il supporto di strumenti di intelligenza artificiale generativa. L’IA è stata utilizzata come strumento di analisi, elaborazione e revisione del contenuto. Le impostazioni concettuali relative a PENSAI, inclusa la definizione della “modalità agnostica”, rappresentano un’elaborazione del progetto e non costituiscono una posizione ufficiale delle fonti citate. Le fonti indicate sono state utilizzate come riferimenti per i concetti discussi e non implicano alcuna approvazione o validazione di PENSAI da parte degli enti citati.
