PENSAI e AI Act 2026: governance dell’AI e decisioni
Dall’output dell’intelligenza artificiale alla decisione: un metodo agnostico per verificare presupposti, rischio, incertezza e responsabilità nel quadro dell’AI Act 2026
Saggio metodologico e scientifico
Salvatore Martino – PENSAI
Abstract
L’entrata nella fase applicativa dell’Artificial Intelligence Act europeo rende centrale una questione che non riguarda soltanto la capacità dell’intelligenza artificiale di produrre risposte, ma anche il modo in cui tali risposte vengono verificate, interpretate e trasformate in decisioni.
Questo saggio presenta PENSAI come proposta di framework per la governance del processo decisionale assistito dall’AI. Il suo obiettivo non è sostituire l’intelligenza artificiale, né certificare automaticamente la conformità normativa, ma introdurre un livello metodologico di controllo tra domanda, elaborazione AI, verifica e decisione.
La proposta si fonda su un principio essenziale:
X → verifica → V/F → decisione
Quando le informazioni disponibili non consentono di stabilire ragionevolmente se una proposizione sia vera o falsa, PENSAI non dovrebbe inventare una conclusione: dovrebbe sospendere il giudizio e richiedere verifica.
Il rapporto con l’AI Act è quindi di possibile complementarità metodologica, non di equivalenza giuridica. L’efficacia di PENSAI rispetto a sistemi AI non governati rimane un’ipotesi da verificare sperimentalmente attraverso benchmark indipendenti e riproducibili.
1. Introduzione
L’intelligenza artificiale generativa ha modificato profondamente il rapporto tra informazione, elaborazione e decisione.
Un sistema AI può oggi ricevere una domanda, elaborare grandi quantità di informazioni e produrre in pochi secondi una risposta apparentemente coerente.
Ma una risposta coerente non è necessariamente una risposta vera.
E una risposta vera non è necessariamente una decisione corretta nel contesto nel quale viene utilizzata.
Esiste quindi una distinzione fondamentale:
output AI ≠ decisione.
Tra i due elementi esiste un processo.
È precisamente questo processo che PENSAI propone di sottoporre a governance.
Il problema può essere rappresentato come:
DOMANDA → AI → OUTPUT → INTERPRETAZIONE → DECISIONE → AZIONE
Un errore può verificarsi in ciascuno di questi passaggi.
La domanda può contenere un presupposto falso.
I dati possono essere incompleti.
La fonte può essere inaffidabile.
Il modello può produrre un’informazione errata.
L’utente può interpretare erroneamente l’output.
La decisione può infine essere presa senza considerare adeguatamente rischio e incertezza.
La governance dell’AI non può quindi essere ridotta alla sola verifica del modello.
Deve considerare anche il percorso che porta dall’output alla decisione.
2. Il contesto dell’AI Act 2026
Il Regolamento (UE) 2024/1689, noto come AI Act, costituisce il principale quadro normativo europeo sull’intelligenza artificiale.
Il regolamento adotta un approccio basato sul rischio e introduce obblighi differenti in funzione della tipologia e dell’utilizzo del sistema.
Tra i requisiti previsti per i sistemi ad alto rischio figurano gestione del rischio, qualità dei dati, documentazione tecnica, registrazione degli eventi, trasparenza, supervisione umana, accuratezza, robustezza e cibersicurezza.
Nel 2026 il quadro entra in una fase particolarmente significativa.
La Commissione europea ha comunicato che dal 2 agosto 2026 l’AI Office europeo e le autorità nazionali iniziano l’applicazione delle relative disposizioni, mentre nello stesso periodo diventano applicabili nuove regole di trasparenza per determinati sistemi AI.
L’AI Act non considera quindi l’AI esclusivamente come una tecnologia.
La considera anche come un sistema che deve essere governato in relazione ai rischi prodotti dal suo utilizzo.
Questa impostazione crea uno spazio concettuale nel quale una metodologia come PENSAI può essere studiata.
3. Il problema fondamentale: l’AI può rispondere a una domanda sbagliata
Consideriamo una domanda semplice:
«Perché tutti i numeri primi sono dispari?»
La domanda contiene una premessa falsa.
Il numero 2 è primo ed è pari.
Un sistema che rispondesse spiegando perché “tutti” i numeri primi sono dispari potrebbe produrre un testo linguisticamente perfetto ma logicamente errato.
La prima verifica non dovrebbe quindi essere:
«Qual è la risposta?»
Dovrebbe essere:
«La premessa della domanda è verificabile?»
Questo problema si presenta anche in contesti molto più complessi.
Una domanda può contenere:
- un fatto non dimostrato;
- una correlazione presentata come causalità;
- un’affermazione assoluta;
- una falsa alternativa;
- una definizione ambigua;
- una conclusione già incorporata nella domanda.
PENSAI introduce quindi un controllo preliminare della domanda.
4. Che cos’è PENSAI
PENSAI può essere definito come:
un framework metodologico di governance del processo decisionale assistito dall’intelligenza artificiale, progettato per verificare presupposti, dati, fonti, logica, incertezza, rischio e condizioni decisionali prima di trasformare un output AI in una decisione.
PENSAI non è:
- un nuovo modello linguistico;
- un chatbot;
- una fonte autonoma di verità;
- un certificatore automatico;
- una sostituzione dell’AI;
- una garanzia assoluta contro l’errore.
Il suo ruolo proposto è diverso.
L’AI genera o elabora.
PENSAI governa il processo.
La persona mantiene la responsabilità della decisione quando questa responsabilità è prevista dal contesto e dalla normativa applicabile.
5. L’architettura
Il modello generale può essere rappresentato così:
DOMANDA
↓
NORMALIZZAZIONE
↓
VERIFICA DEI PRESUPPOSTI
↓
DATI / FONTI
↓
AI
↓
GENERAZIONE DELLE OPZIONI
↓
FILTER
↓
UNCERTAINTY MAP
↓
SCORE
↓
VIA UNICA
↓
VERIFICA FINALE
↓
DECISIONE / STOP
La caratteristica fondamentale è che l’output non viene automaticamente trasformato in una decisione.
Esiste un livello intermedio.
Questo livello deve poter:
accettare, correggere, chiedere verifica oppure fermare il processo.
6. La modalità agnostica
Il principio epistemico centrale di PENSAI è:
X → verifica → V/F → decisione
Dove:
- X = informazione insufficiente;
- verifica = ricerca degli elementi mancanti;
- V = proposizione verificata;
- F = proposizione falsificata;
- decisione = scelta successiva, se le condizioni sono sufficienti.
X non equivale a una semplice risposta:
«Non lo so.»
È una condizione metodologica:
«Non esistono ancora elementi sufficienti per stabilire V o F.»
Questa distinzione è importante perché impedisce di trasformare l’incertezza in falsa certezza.
7. L’agnosticità di PENSAI
L’agnosticità può essere considerata sotto due aspetti.
7.1 Agnosticità tecnologica
PENSAI non deve dipendere da uno specifico fornitore.
In linea teorica può essere applicato a modelli differenti:
PENSAI → AI A
PENSAI → AI B
PENSAI → AI C
PENSAI → modello locale
PENSAI → modello proprietario
La sua struttura metodologica rimane separata dal modello utilizzato.
7.2 Agnosticità epistemica
PENSAI non deve presumere automaticamente che:
- l’utente abbia ragione;
- l’AI abbia ragione;
- una fonte abbia ragione;
- PENSAI stesso abbia ragione.
Questa caratteristica è essenziale.
Se PENSAI diventasse una nuova autorità indiscutibile, contraddirebbe il proprio principio fondamentale.
La domanda:
«Se PENSAI dice che una risposta è corretta, allora è sicuramente corretta?»
deve avere come risposta:
No.
Anche PENSAI deve poter essere sottoposto a verifica.
8. I dodici controlli
Il framework può essere organizzato in dodici verifiche:
| N. | Controllo |
|---|---|
| 1 | Presupposti |
| 2 | Definizioni |
| 3 | Dati |
| 4 | Fonti |
| 5 | Logica |
| 6 | Alternative |
| 7 | Incertezza |
| 8 | Contraddizioni |
| 9 | Contesto |
| 10 | Criteri decisionali |
| 11 | Rischio |
| 12 | Verificabilità finale |
L’obiettivo non è complicare ogni risposta.
È applicare un livello di controllo proporzionato al rischio.
Una domanda elementare non richiede necessariamente lo stesso livello di governance di una decisione che può produrre conseguenze rilevanti.
9. Il principio STOP
Una caratteristica fondamentale del metodo è la possibilità di fermarsi.
Esempio:
«Questa AI ha dato una risposta corretta?»
Se non disponiamo della risposta, dei dati necessari o di un criterio di verifica, non possiamo stabilire V o F.
PENSAI dovrebbe produrre:
X → VERIFICA NECESSARIA → STOP
Questo non è un malfunzionamento.
È una condizione prevista dal metodo.
L’AI Act attribuisce infatti particolare importanza alla supervisione umana nei sistemi ad alto rischio, richiedendo che le persone incaricate possano comprendere capacità e limiti del sistema, monitorarne il funzionamento e intervenire quando necessario.
10. Il rapporto con la supervisione umana
L’articolo 14 dell’AI Act stabilisce che i sistemi ad alto rischio devono essere progettati in modo da consentire un’efficace supervisione umana.
Tra gli elementi previsti rientra la possibilità di individuare anomalie, disfunzioni e prestazioni inattese, nonché la consapevolezza del rischio di affidamento automatico o eccessivo sull’output AI.
Questa disposizione è particolarmente interessante rispetto a PENSAI.
Il framework non considera l’output AI come una decisione.
Lo considera un elemento del processo decisionale.
La differenza è sostanziale:
AI: «questa è la risposta.»
PENSAI: «questa risposta può essere utilizzata per decidere?»
La seconda domanda richiede una verifica ulteriore.
11. Risk management
L’AI Act richiede per i sistemi ad alto rischio un sistema di gestione dei rischi istituito, documentato e mantenuto durante l’intero ciclo di vita.
Il processo deve identificare e analizzare i rischi, valutarli e adottare misure mirate per affrontarli. Il regolamento prevede inoltre attività di testing basate su metriche e soglie definite in precedenza.
PENSAI contiene una logica compatibile con questa impostazione, ma su un piano differente.
Il framework può introdurre una governance del percorso decisionale:
RISCHIO
↓
VERIFICA
↓
INCERTEZZA
↓
ALTERNATIVE
↓
SOGLIA
↓
DECISIONE / STOP
Non si tratta però di sostenere che questa struttura soddisfi automaticamente gli obblighi dell’articolo 9.
La conformità deve essere valutata sul sistema concreto.
12. Logging e tracciabilità
L’AI Act attribuisce importanza alla registrazione degli eventi generati dai sistemi ad alto rischio e prevede specifici obblighi di conservazione dei log in determinate condizioni.
PENSAI può aggiungere, sul piano metodologico, una traccia del processo decisionale:
QUESITO
↓
PRESUPPOSTI
↓
DATI
↓
FONTI
↓
OUTPUT AI
↓
VERIFICHE
↓
INCERTEZZE
↓
CRITERI
↓
DECISIONE
↓
POST-CHECK
Questa struttura può essere definita Execution Trace.
La finalità è rendere ricostruibile il percorso seguito.
Ancora una volta, si tratta di una possibile funzione complementare, non di un sostituto dei log normativamente richiesti.
13. Dall’output alla decisione
Il vero oggetto di PENSAI non è quindi soltanto la risposta AI.
È il passaggio:
OUTPUT → DECISIONE
Questo passaggio deve essere governato.
Una risposta può essere:
- corretta ma irrilevante;
- corretta ma incompleta;
- plausibile ma non verificata;
- verificata ma applicata al contesto sbagliato;
- corretta sotto determinate condizioni;
- incompatibile con un vincolo;
- insufficiente per decidere.
PENSAI introduce quindi una separazione tra:
verità dell’informazione
e
adeguatezza decisionale dell’informazione.
Sono problemi differenti.
14. RISOLVO
All’interno dell’architettura PENSAI, RISOLVO rappresenta il livello destinato alla trasformazione controllata del problema in una decisione.
La logica generale può essere espressa:
NORMALIZE
↓
PRECHECK
↓
FILTER
↓
UNCERTAINTY MAP
↓
SCORE
↓
VIA UNICA
↓
AZIONE
Il principio è:
non scegliere prima di aver verificato che l’opzione sia ammissibile.
La fase di FILTER viene quindi prima della fase di SCORE.
Un’opzione non ammissibile non dovrebbe diventare preferibile semplicemente perché possiede un punteggio elevato.
15. L’incertezza
Una decisione reale raramente dispone di informazioni perfette.
PENSAI propone di rappresentare l’incertezza attraverso scenari:
- peggiore;
- atteso;
- migliore.
Il caso peggiore può assumere carattere eliminatorio quando supera una soglia di rischio definita.
Questo impedisce che una media numerica nasconda un rischio estremo.
Il principio può essere sintetizzato:
prima l’ammissibilità, poi la preferenza.
16. Il rischio dell’automazione
Uno dei problemi più importanti nell’utilizzo dell’AI è il rischio di accettare automaticamente una risposta soltanto perché proviene da un sistema percepito come autorevole.
L’AI Act richiama esplicitamente la necessità di considerare la possibile distorsione dell’automazione nella supervisione dei sistemi ad alto rischio.
PENSAI introduce una separazione strutturale:
l’AI propone.
il processo verifica.
la decisione viene autorizzata secondo criteri predefiniti.
Questo può contribuire a ridurre l’accettazione automatica dell’output, ma anche in questo caso l’effetto deve essere misurato empiricamente.
17. Il benchmark scientifico
La domanda scientificamente rilevante non è:
«PENSAI è migliore dell’AI?»
La domanda corretta è:
«L’introduzione di PENSAI modifica misurabilmente la qualità del processo decisionale rispetto allo stesso sistema AI senza PENSAI?»
Il benchmark deve quindi confrontare:
Condizione A
AI sola
Condizione B
AI + PENSAI
A parità di modello e di quesiti.
Le metriche possono comprendere:
- accuratezza;
- rilevazione delle false premise;
- gestione dell’incertezza;
- appropriate abstention;
- errori logici;
- tracciabilità;
- decisioni inappropriate;
- falsi STOP;
- errori introdotti da PENSAI.
18. Il principio della falsificabilità
Un framework scientifico deve poter essere smentito dai dati.
PENSAI deve quindi poter produrre risultati negativi.
Per esempio:
AI sola = corretta
AI + PENSAI = errata
Questo caso non deve essere nascosto.
Deve essere registrato.
Analogamente:
AI sola = corretta
AI + PENSAI = corretta
significa che PENSAI non ha prodotto un miglioramento in quel caso.
La validazione deve quindi misurare il Net Governance Gain:
qualità(AI + PENSAI) − qualità(AI)
Il valore può essere:
- positivo;
- nullo;
- negativo.
Soltanto l’esperimento può stabilirlo.
19. I test preliminari
Nel percorso di sviluppo metodologico sono stati utilizzati test avversariali relativi a:
- false premise;
- negazioni;
- doppie negazioni;
- quantificatori assoluti;
- causalità;
- ambiguità;
- contraddizioni;
- dati insufficienti;
- decisioni senza criteri;
- autoreferenzialità;
- paradossi;
- conclusioni plausibili ma non verificate;
- richieste di certezza assoluta.
I test hanno mostrato coerenza interna del metodo.
Non costituiscono però una dimostrazione sperimentale dell’efficacia rispetto a un modello AI indipendente.
Questa distinzione è fondamentale.
20. Il caso irrisolto come test fondamentale
Uno dei test più importanti è quello nel quale non esistono elementi sufficienti per decidere.
Se PENSAI risponde comunque, fallisce il proprio principio.
Se invece produce:
X → VERIFICA → STOP
dimostra almeno di rispettare la propria regola epistemica.
Questo non dimostra che la regola sia sempre utile.
Dimostra però che il metodo è capace di rappresentare l’insufficienza informativa.
È una differenza metodologica importante.
21. PENSAI e AI Act: la corretta relazione
Il rapporto può essere sintetizzato in questo modo:
| AI Act | PENSAI |
|---|---|
| Normativa europea | Framework metodologico |
| Obblighi giuridici | Procedure di governance |
| Approccio basato sul rischio | Analisi e gestione del processo |
| Supervisione umana | Gate, verifica e STOP |
| Logging | Execution Trace |
| Accuratezza | Benchmark |
| Robustezza | Test avversariali |
| Trasparenza | Esplicitazione del percorso |
| Accountability | Tracciabilità della decisione |
Questa tabella rappresenta corrispondenze concettuali, non equivalenze normative.
PENSAI non rende automaticamente un’organizzazione conforme all’AI Act.
La conformità dipende dal sistema concreto, dal suo utilizzo, dalla classificazione del rischio, dai soggetti coinvolti e dagli obblighi applicabili.
22. Dal rispetto della norma alla governance operativa
La normativa stabilisce obblighi.
Un’organizzazione deve poi trasformare tali obblighi in procedure operative.
Qui può emergere il possibile ruolo di un framework metodologico.
Il passaggio diventa:
NORMA → CONTROLLO → PROCEDURA → EVIDENZA → VERIFICA
PENSAI può essere studiato come possibile elemento di questo livello procedurale.
Non sostituisce la norma.
Non interpreta automaticamente tutta la norma.
Non certifica l’organizzazione.
Può invece essere utilizzato come struttura per documentare e governare specifici processi decisionali assistiti dall’AI.
23. Una possibile applicazione nella Pubblica Amministrazione
La Pubblica Amministrazione rappresenta un contesto nel quale la distinzione tra output AI e decisione assume particolare rilevanza.
Un sistema AI potrebbe essere utilizzato per:
- classificare documenti;
- supportare analisi;
- sintetizzare informazioni;
- individuare anomalie;
- assistere operatori;
- elaborare scenari.
PENSAI non dovrebbe sostituire il funzionario.
Potrebbe invece introdurre una sequenza:
INPUT → AI → VERIFICA → TRACE → OPERATORE → DECISIONE
Il vantaggio da dimostrare sarebbe una maggiore controllabilità del processo.
Non sarebbe corretto affermare anticipatamente che tale vantaggio esista in termini quantitativi.
Deve essere misurato.
24. La responsabilità umana
Uno degli errori concettuali più pericolosi sarebbe trasferire la responsabilità alla tecnologia.
La formula:
«Lo ha deciso l’intelligenza artificiale»
non risolve il problema della responsabilità.
Un sistema AI può produrre un output.
Una decisione organizzativa richiede invece un processo, un contesto e, nei casi previsti, una persona o un soggetto responsabile.
PENSAI mantiene quindi una distinzione:
generazione ≠ verifica ≠ decisione ≠ responsabilità.
Questa separazione rappresenta uno dei fondamenti del framework.
25. I limiti di PENSAI
PENSAI presenta limiti strutturali.
Primo: un sistema di governance può commettere errori.
Secondo: una verifica può utilizzare fonti errate.
Terzo: un criterio mal definito può produrre una decisione apparentemente rigorosa ma sostanzialmente sbagliata.
Quarto: una maggiore prudenza può produrre falsi STOP.
Quinto: un sistema complesso può introdurre costi e tempi aggiuntivi.
Sesto: PENSAI non può garantire la verità assoluta.
Settimo: la qualità della governance dipende anche dalla qualità delle informazioni disponibili.
Questi limiti non devono essere nascosti.
Devono essere parte integrante della sperimentazione.
26. La domanda più importante
La domanda fondamentale non è:
«Possiamo costruire un sistema che non sbagli mai?»
Con le tecnologie attuali, una simile premessa non è scientificamente sostenibile.
La domanda più utile è:
«Possiamo costruire un processo che riconosca più frequentemente quando non dispone di elementi sufficienti per decidere?»
PENSAI nasce precisamente da questa domanda.
Il suo principio non è la perfezione.
È la governabilità dell’incertezza.
27. Una nuova concezione del rapporto con l’AI
L’evoluzione dell’intelligenza artificiale porta progressivamente a distinguere tre livelli:
Livello 1 — Generazione
L’AI produce contenuti, analisi, ipotesi o risposte.
Livello 2 — Governance
Un framework verifica condizioni, rischi, incertezza e criteri.
Livello 3 — Decisione
Un soggetto autorizzato assume la decisione nel contesto concreto.
La struttura diventa:
AI → Governance → Decisione
PENSAI si colloca nel secondo livello.
28. Conclusione
L’AI Act 2026 rende particolarmente evidente che l’intelligenza artificiale non può essere considerata soltanto come una tecnologia capace di produrre risultati.
Deve essere considerata anche come componente di sistemi nei quali esistono rischio, supervisione, documentazione, trasparenza, responsabilità e controllo.
PENSAI propone di affrontare una parte specifica di questo problema:
governare il percorso che conduce dall’output AI alla decisione.
Il framework non pretende di sapere sempre quale sia la verità.
Non pretende di essere infallibile.
Non pretende di sostituire l’essere umano.
Non pretende di sostituire l’AI Act.
Propone una disciplina:
verificare prima di decidere.
La sua forma più sintetica è:
X → verifica → V/F → decisione
Quando esistono elementi sufficienti, il processo procede.
Quando gli elementi sono insufficienti, il processo si ferma.
Quando emerge una contraddizione, viene richiesta verifica.
Quando il rischio supera le condizioni ammesse, la decisione viene bloccata o sottoposta a ulteriore autorizzazione.
Questa impostazione presenta una possibile complementarità con alcuni principi dell’AI Act, in particolare quelli relativi alla gestione del rischio, alla supervisione umana, alla documentazione, alla tracciabilità e alla verifica delle prestazioni.
Ma il punto scientificamente più importante è un altro.
PENSAI deve essere sottoposto a verifica tanto quanto l’AI che intende governare.
La sua efficacia non può essere dichiarata.
Deve essere misurata.
Il confronto corretto sarà:
AI
contro
AI + PENSAI
su dataset controllati, con criteri definiti prima dell’esperimento, valutazione indipendente e possibilità concreta di ottenere un risultato negativo.
Solo allora sarà possibile stabilire se PENSAI costituisca effettivamente un miglioramento della governance decisionale assistita dall’intelligenza artificiale oppure se alcune sue componenti siano inutili, ridondanti o addirittura controproducenti.
Questa apertura alla falsificazione non è una debolezza del metodo.
È la condizione necessaria perché possa essere considerato seriamente come proposta scientifica.
Fonti essenziali
- Regolamento (UE) 2024/1689 – Artificial Intelligence Act, testo ufficiale EUR-Lex. AI Act – EUR-Lex
- Articolo 9 – Sistema di gestione dei rischi, testo vigente.
- Articolo 14 – Sorveglianza umana, testo vigente.
- Articoli 12 e 19 – Registrazioni e logging, AI Act.
- Commissione europea – Enforcement dell’AI Act dal 2 agosto 2026, 31 luglio 2026.
- AI Act – Articolo 15, accuratezza, robustezza e cibersicurezza.
Nota dell’autore
Questo saggio descrive PENSAI come proposta metodologica. Le corrispondenze con l’AI Act sono da intendersi come mappatura concettuale e non costituiscono una certificazione di conformità giuridica. L’efficacia di PENSAI rispetto all’utilizzo della sola AI deve essere dimostrata mediante sperimentazione indipendente, riproducibile e falsificabile.
Salvatore Martino – PENSAI
Views: 2
