Non è un’intelligenza generale: è un possibile sistema di governo dell’intelligenza.

Quando si parla di AGI, Artificial General Intelligence, il confronto con PENSAI può sembrare naturale.

Ma bisogna partire da una distinzione fondamentale: PENSAI non è un’AGI.

Non è un modello di intelligenza artificiale capace di comprendere autonomamente il mondo, apprendere in modo generale e svolgere qualsiasi compito intellettuale come una persona. È invece un metodo progettato per governare il processo che porta da un problema a una decisione.

Ed è proprio questa differenza a rendere interessante il confronto.

AGI e PENSAI rispondono a due domande diverse

Un sistema di intelligenza artificiale cerca principalmente di rispondere alla domanda:

«Che cosa posso fare?»

Un sistema governato da PENSAI aggiunge una domanda diversa:

«Sono autorizzato, sulla base delle informazioni disponibili, a concludere e ad agire?»

La differenza non è soltanto linguistica.

Nella definizione utilizzata da NIST, un sistema di AI può produrre previsioni, raccomandazioni o decisioni che influenzano ambienti reali o virtuali e può operare con diversi livelli di autonomia.

La capacità di produrre una decisione, però, non garantisce automaticamente che quella decisione sia sufficientemente verificata, proporzionata al rischio o autorizzata.

È qui che entra PENSAI.

Una scala ipotetica

Se costruissimo una scala puramente concettuale, potremmo rappresentarla così:

Questa scala non è una classificazione scientifica ufficiale dell’AGI. È uno strumento concettuale per capire dove collocare PENSAI.

Il punto importante è che PENSAI non sale verso l’AGI aumentando semplicemente la propria “intelligenza”.

Sale, eventualmente, aumentando la capacità di governare sistemi intelligenti.

Il motore e il sistema di governo

Una metafora può rendere più evidente la differenza.

Immaginiamo un’automobile.

L’AGI, nell’analogia, sarebbe il motore estremamente potente.

PENSAI sarebbe il sistema che stabilisce:

• quale destinazione è stata richiesta;
• quali strade sono ammissibili;
• quali rischi devono essere considerati;
• quando fermarsi;
• quali informazioni mancano;
• quando chiedere conferma;
• come verificare il risultato.

Un motore più potente non significa automaticamente un’automobile più sicura.

Allo stesso modo, un’intelligenza artificiale più capace non implica automaticamente una capacità equivalente di governare le proprie decisioni.

Il punto decisivo: sapere quando non decidere

Uno degli elementi più interessanti di PENSAI è la possibilità di trattare l’incertezza non come un difetto da nascondere, ma come una condizione esplicita del processo.

Se le informazioni disponibili permettono di stabilire una conclusione:

verifica → V/F → decisione

Se invece non permettono di stabilirla:

X → verifica → V/F → decisione

Dove X significa semplicemente “non determinato”.

Non significa vero.

Non significa falso.

Significa che, allo stato delle informazioni disponibili, il giudizio non è ancora determinabile.

Questa impostazione è particolarmente importante quando un sistema artificiale produce risposte molto convincenti ma dispone di informazioni insufficienti.

Una governance efficace deve poter dire:

STOP. Mancano elementi sufficienti.

Da AI a AI governata

Il problema diventa ancora più evidente quando l’intelligenza artificiale passa dalla risposta all’azione.

Un sistema può:

1. interpretare una richiesta;
2. generare una soluzione;
3. scegliere un’opzione;
4. eseguire un’azione.

Ma tra il punto 3 e il punto 4 esiste una domanda fondamentale:

l’azione deve essere effettivamente autorizzata?

È una distinzione che assume particolare importanza nei sistemi agentici.

La normativa europea sull’AI Act, per i sistemi ad alto rischio, attribuisce infatti un ruolo centrale alla gestione continua del rischio e alla supervisione umana. L’articolo 14 richiede che le persone incaricate della supervisione possano comprendere capacità e limiti del sistema, monitorarne il funzionamento e, quando necessario, ignorare o annullare il risultato prodotto dall’AI.

Non significa che l’AI Act sia “PENSAI”.

Significa però che il problema affrontato da PENSAI appartiene a una questione reale: la capacità di un sistema intelligente deve essere accompagnata da meccanismi di controllo, supervisione e gestione del rischio.

Anche il NIST AI Risk Management Framework organizza la gestione del rischio attraverso quattro funzioni: Govern, Map, Measure, Manage, considerando la governance come funzione trasversale all’intero ciclo di vita del sistema.

PENSAI non deve diventare un’AGI

Questa potrebbe essere la conclusione più controintuitiva.

Se PENSAI diventasse semplicemente un’altra intelligenza artificiale generale, perderebbe probabilmente parte della sua funzione originaria.

Il suo valore potrebbe invece essere proprio quello di rimanere sopra o intorno all’intelligenza, senza confondersi con essa.

• Un modello può generare.
• Un agente può pianificare.
• Un sistema può eseguire.

PENSAI può intervenire sul governo del percorso decisionale.

In questa prospettiva, PENSAI non compete necessariamente con l’AGI.

Potrebbe diventare un livello complementare.

Una possibile architettura

UTENTE
↓
PROBLEMA
↓
PENSAI — PRECHECK / NORMALIZE
↓
IA — ANALISI E GENERAZIONE
↓
PENSAI — VERIFICA / FILTER / SCORE
↓
DECISION GATE
↓
ALLOW / HOLD / STOP
↓
AZIONE
↓
POST-CHECK

L’intelligenza produce possibilità.

La governance stabilisce quali possibilità possono diventare decisioni e quali decisioni possono diventare azioni.

Il vero confronto

Per questo la domanda:

«A quale livello di AGI equivale PENSAI?»non è probabilmente la domanda più utile.

La domanda più interessante è:

«Che livello di governance potrebbe essere applicato a un sistema AGI?»

La risposta potrebbe aprire una categoria diversa da quella dell’intelligenza artificiale generale:

intelligenza generale governata.

Non necessariamente un sistema più intelligente.

Un sistema nel quale la capacità di ragionare è accompagnata da regole esplicite per:

• riconoscere l’incertezza;
• distinguere fatti e inferenze;
• valutare alternative;
• misurare il rischio;
• impedire decisioni premature;
• richiedere conferma quando necessario;
• registrare il percorso decisionale;
• verificare il risultato;
• fermare l’azione quando le condizioni non sono soddisfatte.

La vera ambizione di PENSAI

PENSAI, quindi, non dovrebbe essere presentato come una “AGI italiana”, né come un’intelligenza artificiale equivalente all’AGI.

Sarebbe tecnicamente scorretto.La sua possibile ambizione è diversa:

diventare un metodo per governare sistemi intelligenti, compresi eventualmente sistemi molto più intelligenti di quelli attuali.

Ed è una distinzione fondamentale.

Perché il problema del futuro potrebbe non essere soltanto costruire macchine capaci di pensare meglio.

Potrebbe essere costruire sistemi capaci di non trasformare automaticamente ogni possibilità in una decisione e ogni decisione in un’azione.

In fondo, una macchina veramente potente non è necessariamente quella che dice sempre “sì”.

Potrebbe essere quella che sa dire, quando necessario:

• «Non lo so.»
• «Non è ancora determinato.»
• «Serve una verifica.»
• «Serve un essere umano.»
• «STOP.»

Questa non è AGI.

È governance dell’intelligenza.

E forse è proprio questa la parte che diventerà indispensabile quando l’intelligenza artificiale sarà molto più capace di oggi.

Hyłf Göt!

Fonti

• NIST — Artificial Intelligence Glossary
• NIST — AI Risk Management Framework
• NIST — AI RMF 1.0
• EUR-Lex — Regolamento (UE) 2024/1689, AI Act
• Commissione europea — AI Act

Disclaimer

Questo articolo ha finalità esclusivamente divulgative e non costituisce una definizione scientifica di AGI, una certificazione di PENSAI né una valutazione tecnica di conformità normativa. Le parti relative a PENSAI descrivono un modello concettuale e progettuale; non implicano che PENSAI possieda capacità di intelligenza generale o autonomia proprie di un sistema AGI.