L’attimo della decisione: probabilità, AI e realtà | PENSAI

Quando una possibilità diventa una scelta e la risposta della macchina deve incontrare la realtà

C’è un momento, nella vita, in cui ancora non abbiamo deciso. Abbiamo davanti due possibilità, forse tre. Le guardiamo, le confrontiamo, immaginiamo cosa potrebbe succedere. Per qualche secondo tutto è ancora aperto.

Poi scegliamo.

E quella piccola frazione di tempo è curiosa. La chiamiamo attimo, ma quando proviamo ad afferrarla è già finita. L’attimo non si lascia conservare.

Forse è proprio per questo che le decisioni ci sembrano così strane. Prima di prenderle viviamo nel mondo delle possibilità. Dopo averle prese viviamo nel mondo delle conseguenze.

Tra i due c’è qualcosa che dura quasi niente.

Ma cambia tutto.

Quando arriva l’intelligenza artificiale

Oggi abbiamo aggiunto a questo vecchio problema uno strumento completamente nuovo: l’intelligenza artificiale. Le facciamo una domanda e, in pochi secondi, riceviamo una risposta. Spesso è una buona risposta. A volte è sorprendente. Altre volte è sbagliata. La cosa più insidiosa è che può essere sbagliata con grande naturalezza.

Una frase può essere perfettamente costruita, avere un tono sicuro, sembrare intelligente e tuttavia non essere vera.

Non è necessariamente un difetto del sistema. È anche una conseguenza del modo in cui funzionano i modelli generativi: lavorano con probabilità e producono una possibile continuazione sulla base delle informazioni e delle relazioni apprese. In altre parole, l’AI può dirci:

«Questa è una risposta possibile.»

Noi, però, potremmo essere tentati di sentirci dire: «Questa è la risposta giusta.» Ed è una differenza enorme.

Una parola che inganna

La parola che rischia di ingannarci è proprio probabilità. Probabile non significa vero. Plausibile non significa verificato. Una previsione non è un fatto.

E una risposta generata da una macchina, per quanto convincente, rimane una risposta che deve poter essere confrontata con la realtà quando dalla risposta dipende una decisione. Qui comincia la riflessione che in PENSAI chiamo

Visione quantistica della decisione.

Il nome è volutamente provocatorio, ma non vuole trasformare PENSAI in una teoria della fisica.

Non sto dicendo che la mente umana sia quantistica. Non sto dicendo che ChatGPT funzioni come una particella subatomica. Sto guardando una cosa molto più semplice. Prima della scelta abbiamo possibilità. Dopo la scelta abbiamo una realtà da verificare. E in mezzo c’è quell’attimo che non riusciamo nemmeno a fermare.

Il momento in cui scegliamo

Immaginiamo di dover prendere una strada. Finché siamo fermi, le strade sono tutte davanti a noi. Nel momento in cui ne imbocchiamo una, la situazione cambia. Non perché le altre strade siano magicamente scomparse, ma perché noi abbiamo trasformato una possibilità in un’azione.

È questo il punto che mi interessa.

L’intelligenza artificiale può aiutarci a vedere più strade. Può suggerire alternative che non avevamo considerato. Può mettere ordine nelle informazioni. Può persino mostrarci una possibilità che da soli non avremmo visto. Ma non dovrebbe essere lei a trasformare automaticamente una possibilità in una decisione.

Quello è un altro mestiere.

Dalla probabilità alla realtà

Possiamo immaginare il percorso così:

possibilità → probabilità → scelta → azione → realtà → verifica.

La parte iniziale può essere terreno fertile per l’AI. La parte finale appartiene alla realtà. Ed è una distinzione che diventerà sempre più importante.

Perché più le macchine saranno brave a produrre risposte convincenti, più noi rischieremo di dimenticare una cosa elementare: una risposta convincente non ci esonera dal verificarla.

Forse il vero problema dell’AI non sarà quindi sapere se la macchina è intelligente.

Sarà sapere quando dobbiamo smettere di ascoltare la macchina e cominciare a controllare la realtà.

L’attimo

E torniamo all’attimo. Quell’attimo che non esiste come durata, ma che esiste come esperienza. Prima: non abbiamo ancora scelto. Dopo: abbiamo scelto.

È un confine quasi invisibile. Eppure proprio lì nasce la responsabilità. Perché una probabilità può essere prodotta da una macchina. Una decisione, invece, produce conseguenze nel mondo. È questa, forse, la parte più umana della questione. Non abbiamo bisogno di eliminare l’incertezza.

Dobbiamo imparare a non nasconderla dietro una risposta che sembra certa.

La macchina può mostrarci il possibile. La realtà ci dirà il vero. E tra le due c’è quell’attimo. Quello che non possiamo fermare.

Ma nel quale, ancora oggi, scegliamo.

Fonti

• NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0), riferimento per affidabilità, gestione del rischio e valutazione dei sistemi di intelligenza artificiale.
• IBM Research, materiali sulla generazione probabilistica e sui modelli linguistici.
• Encyclopaedia Britannica, materiali introduttivi sulla meccanica quantistica.

Disclaimer

Il termine “visione quantistica” è utilizzato nel saggio come metafora concettuale e non come teoria scientifica della decisione. Non viene stabilita alcuna equivalenza tra meccanica quantistica e funzionamento dell’intelligenza artificiale.

Testo e l’immagine,  sono stati elaborati con il supporto dell’intelligenza artificiale e sottoposti a revisione umana. La responsabilità editoriale del contenuto rimane umana.

Views: 1