Perché propongo una governance della decisione

ENGLISH VERSION
When Artificial Intelligence Enters the Realm of Responsibility

---

Di Salvatore Martino — PENSAI

L’intelligenza artificiale sta cambiando rapidamente il rapporto tra persone, organizzazioni e decisioni.

Per anni mi sono posto una domanda soprattutto tecnologica: quanto può diventare intelligente una macchina?

Oggi ritengo che questa domanda non sia più sufficiente.

Quando una risposta prodotta da un sistema di IA entra in un processo reale e contribuisce a determinare una decisione, la questione cambia.

Mi chiedo allora:

chi controlla ciò che l’IA produce, secondo quali regole e con quali responsabilità?

È da questa domanda che nasce la mia riflessione sulla governance della decisione.

---

Un nuovo passaggio normativo

Il Decreto legislativo 9 settembre 2026, n. 160, pubblicato nella Gazzetta Ufficiale il 15 settembre 2026, rappresenta un ulteriore passaggio dell’evoluzione della normativa italiana sull’intelligenza artificiale.

Il decreto entra in vigore il 30 settembre 2026.

Nel testo individuo un elemento particolarmente significativo per la mia riflessione: sicurezza, supervisione e responsabilità assumono una dimensione sempre più concreta nel rapporto tra sistemi di IA e attività umane.

Non interpreto questo provvedimento come una dimostrazione automatica della validità di PENSAI.

Lo considero piuttosto un elemento del contesto nel quale sto sviluppando il progetto.

Il legislatore sta infatti affrontando una questione che considero fondamentale:

come utilizzare l’intelligenza artificiale mantenendo controllo e responsabilità.

---

Il problema non è soltanto l’intelligenza della macchina

Quando analizzo un sistema di IA, non mi interessa soltanto sapere quanto sia potente.

Mi interessa anche capire che cosa accade prima e dopo il suo output.

Immagino un’organizzazione che utilizzi un sistema di IA.

Il sistema riceve dati.

• Produce un’analisi.
• Propone alcune alternative.
• Indica una soluzione.

A questo punto potrei considerare concluso il processo.

Ma, secondo il metodo che sto sviluppando con PENSAI, mancano ancora alcune domande:

1. Qual era il problema iniziale?
2. Qual era l’obiettivo?
3. Quali alternative erano disponibili?
4. Quali sono state escluse?
5. Secondo quali criteri?
6. Quali vincoli erano applicabili?
7. Quale rischio era accettabile?
8. Quanto era incerto il risultato?
9. Chi poteva autorizzare l’azione?
10. Quando il processo avrebbe dovuto fermarsi?

Per me queste domande riguardano il processo decisionale, non semplicemente il modello di IA.

---

Una risposta convincente non è necessariamente una risposta verificabile

L’IA generativa rende estremamente facile ottenere risposte articolate.

Ma io non considero una risposta ben formulata automaticamente corretta, completa o adatta al contesto.

Quando un output viene trasferito direttamente in un processo operativo, il rischio aumenta.

Per questo propongo di separare almeno cinque momenti:

generazione → valutazione → decisione → azione → verifica.

È proprio nello spazio tra questi momenti che colloco PENSAI.

---

PENSAI: la mia proposta concreta

PENSAI non è un modello di intelligenza artificiale.

Non è un chatbot.

Non nasce per sostituire il decisore umano.

Non lo presento come una certificazione di conformità all’AI Act.

Io lo definisco un framework di governance decisionale.

Con PENSAI propongo di strutturare il processo attraverso il quale una situazione viene trasformata in una decisione.

La struttura che ho sviluppato parte da:

STATO → OBIETTIVO → OPZIONI → VINCOLI → VALUTAZIONE → DECISIONE → AZIONE → VERIFICA

Il mio obiettivo non è produrre semplicemente più informazioni.

Voglio strutturare il modo nel quale le informazioni vengono utilizzate per decidere.

---

Che cosa offre PENSAI oggi

Su questo punto voglio essere particolarmente chiaro.

Non voglio presentare come prodotto già disponibile ciò che appartiene ancora allo sviluppo futuro.

Oggi PENSAI è innanzitutto un framework metodologico di governance decisionale, con un nucleo decisionale deterministico formalizzato e implementato.

Con il metodo PENSAI posso strutturare una situazione decisionale partendo dal problema e dall’obiettivo, identificando alternative, vincoli, criteri di valutazione, rischi e condizioni necessarie per arrivare a una decisione.

Posso inoltre definire le azioni conseguenti e prevedere una verifica successiva.

Il valore che attribuisco oggi a PENSAI è quindi principalmente metodologico.

Gli strumenti software destinati a rendere il framework sempre più operativo rappresentano invece una fase di sviluppo.

Questa distinzione, per me, è essenziale.

Preferisco descrivere correttamente ciò che ho oggi piuttosto che attribuire al progetto capacità che ancora non possiede.

---

La Via Unica

Uno dei concetti centrali che ho sviluppato in PENSAI è la Via Unica.

Con questo termine non intendo sostenere che esista sempre una sola soluzione oggettivamente corretta.

Intendo dire che, una volta definito il problema, stabiliti obiettivi e vincoli, considerate le alternative e applicati criteri espliciti, il processo deve poter arrivare a una scelta operativa ricostruibile.

Prima considero le possibilità.

Poi le filtro.

Successivamente le valuto.

Infine individuo la strada operativa compatibile con le condizioni definite.

Per me la Via Unica non è quindi una scorciatoia.

È l’esito di un processo.

---

Posso anche fermare il processo

Un’altra caratteristica che considero fondamentale è la possibilità di non decidere.

Se mancano informazioni essenziali, se un vincolo critico viene violato o se il rischio supera le condizioni accettabili, PENSAI può arrivare a:

STOP.

Considero questo principio importante perché non voglio costruire un metodo obbligato a produrre sempre una risposta.

Preferisco un sistema capace di dichiarare:

«Non esistono condizioni sufficienti per procedere.»

Per me anche questa è una decisione.

La sospensione non rappresenta necessariamente un fallimento.

Può rappresentare una forma di controllo.

---

Determinismo e trasparenza

Nel nucleo decisionale di PENSAI utilizzo una logica deterministica.

Questo mi permette di distinguere il processo decisionale dal comportamento probabilistico tipico dei sistemi generativi.

Non considero il determinismo una garanzia di correttezza.

Se inserisco dati errati o criteri sbagliati, posso ottenere una decisione errata anche attraverso un processo perfettamente deterministico.

Il vantaggio che cerco è un altro:

rendere ricostruibile il percorso decisionale.

Voglio poter comprendere quali condizioni, criteri e valutazioni hanno condotto all’esito.

---

Come governo l’incertezza

Non considero realistico costruire decisioni basate sull’idea che tutte le informazioni siano certe.

L’incertezza esiste.

Per questo, nel metodo PENSAI, cerco di renderla esplicita invece di nasconderla dietro una precisione apparente.

Mi interessa soprattutto individuare le variabili che possono modificare realmente l’esito.

In altre parole, non cerco di fingere di conoscere ciò che non conosco.

Cerco di stabilire quanto ciò che non conosco possa influenzare la decisione.

---

PENSAI insieme all’intelligenza artificiale

Non penso che PENSAI debba sostituire l’IA.

Penso che possa lavorare insieme ad essa.

L’IA può aiutarmi a generare informazioni, scenari, analisi e alternative.

PENSAI può fornire una struttura metodologica per organizzarle, valutarle e sottoporle a condizioni esplicite prima della decisione.

La separazione che propongo è quindi:

• IA → genera possibilità
• PENSAI → struttura e governa il processo
• ESSERE UMANO → decide e mantiene la responsabilità
• POST-CHECK → verifica l’esito

Questa è la posizione che sto costruendo con PENSAI.

---

Non voglio confondere supervisione e controllo

A mio avviso, mettere semplicemente una persona alla fine del processo non significa necessariamente avere una vera supervisione umana.

Se una persona riceve un risultato già confezionato e può soltanto approvarlo o respingerlo senza comprenderne il percorso, il controllo rischia di diventare formale.

Per questo considero necessario che il decisore possa:

• comprendere il processo;
• verificare le condizioni;
• contestare il risultato;
• modificare la decisione;
• sospendere il processo;
• impedire l’azione quando mancano condizioni sufficienti.

È questo lo spazio nel quale voglio collocare la governance PENSAI.

---

PENSAI non certifica la conformità

Voglio essere altrettanto chiaro su ciò che non offro.

PENSAI non certifica un sistema di IA.

• Non certifica la conformità all’AI Act.
• Non sostituisce una valutazione giuridica.
• Non sostituisce un audit.
• Non garantisce automaticamente che un’organizzazione sia conforme alla normativa.

Io propongo qualcosa di più circoscritto:

un metodo per strutturare e governare il processo decisionale nel quale l’IA viene utilizzata.

La differenza è fondamentale.

Non voglio vendere PENSAI come una scorciatoia verso la compliance.

Voglio svilupparlo come uno strumento metodologico che possa contribuire a rendere più controllabile il processo decisionale.

---

Dal framework al software

Vedo davanti a me tre livelli distinti.

Oggi

Ho un framework metodologico di governance decisionale, con un nucleo decisionale deterministico formalizzato e implementato.

Sviluppo

Sto portando il metodo verso strumenti software capaci di renderlo più facilmente utilizzabile, ripetibile e integrabile.

Evoluzione

Voglio sviluppare PENSAI come un possibile decision governance layer applicabile anche a sistemi di IA e sistemi agentici.

Non considero però questi tre livelli equivalenti.

Il primo esiste.

Il secondo è sviluppo.

Il terzo rappresenta la direzione progettuale.

---

PENSAI e gli agenti IA

È soprattutto con l’evoluzione degli agenti IA che considero questo problema destinato a diventare ancora più interessante.

Un sistema che produce soltanto una risposta è una cosa.

Un sistema capace di pianificare, utilizzare strumenti e compiere sequenze di azioni è un’altra.

Quando l’IA passa dalla generazione all’azione, io considero indispensabili nuove domande:

• Chi autorizza l’azione?
• Secondo quali condizioni?
• Quali limiti vengono applicati?
• Quando il sistema deve fermarsi?
• Che cosa viene registrato?
• Come posso verificare successivamente ciò che è accaduto?

Da questa esigenza sto sviluppando il concetto di PENSAI AGENT-GOV.

La logica che propongo è:

Decision Gate → Action Gate → Execution Trace → Post-Check

In questo modello non voglio impedire all’agente di essere operativo.

Voglio introdurre un livello che governi il passaggio dalla decisione proposta all’azione autorizzata.

---

Una possibile infrastruttura futura

La mia visione può essere rappresentata in questo modo:

DATI / INPUT

↓

SISTEMA IA

↓

PENSAI GOVERNANCE LAYER

↓

VALUTAZIONE / FILTRO / RISCHIO / CRITERI

↓

DECISION GATE

↓

DECISIONE UMANA O AZIONE AUTORIZZATA

↓

POST-CHECK / TRACE

Questa non è la descrizione di una piattaforma già completamente disponibile.

È l’architettura verso la quale intendo portare il progetto.

---

Perché considero questo un possibile mercato

Se l’intelligenza artificiale continuerà a passare dalla semplice generazione di contenuti verso processi operativi e sistemi agentici, ritengo che aumenterà anche la necessità di distinguere:

ciò che l’IA può suggerire

da

ciò che un’organizzazione può autorizzare.

È in questo spazio che vedo una possibile area di mercato per PENSAI.

Immagino applicazioni nell’ambito della:

• AI Decision Governance;
• Decision Intelligence;
• valutazione multicriterio;
• gestione dell’incertezza;
• supervisione dei processi;
• tracciabilità delle decisioni;
• verifica ex post;
• governance dei sistemi agentici.

Non voglio competere con i grandi modelli generativi.

Voglio lavorare a un livello differente.

---

La mia tesi

La mia tesi è semplice.

L’intelligenza artificiale può produrre una possibilità.

Ma una possibilità non è ancora una decisione.

Una decisione non è ancora un’azione.

E un’azione non dovrebbe essere separata dalla responsabilità di chi l’autorizza.

Per questo propongo PENSAI come livello metodologico tra la capacità dell’IA di generare possibilità e la responsabilità umana di decidere.

---

Conclusione

Il nuovo quadro normativo italiano rende ancora più evidente una questione che considero centrale: l’intelligenza artificiale non può essere valutata soltanto in funzione delle sue capacità.

Devo considerare anche come viene utilizzata, controllata e inserita nei processi decisionali.

Da questa esigenza ho sviluppato PENSAI.

Oggi PENSAI è un framework di governance decisionale, con un nucleo metodologico e deterministico già formalizzato e implementato.

Sto lavorando alla sua evoluzione verso strumenti operativi più completi e, successivamente, verso una possibile architettura di governance applicabile anche ai sistemi agentici.

Non presento PENSAI come una nuova intelligenza artificiale.

Non lo presento come una certificazione.

Non lo presento come una garanzia di decisioni perfette.

Lo propongo come un metodo per governare il processo attraverso il quale una risposta diventa una decisione.

La mia idea di fondo è questa:

non voglio che l’IA decida semplicemente più velocemente.

Voglio che, quando contribuisce a una decisione, sia possibile comprendere perché quella decisione è stata presa, secondo quali condizioni, con quali limiti e con quale possibilità di verifica.

La tecnologia produce possibilità.

Io propongo di governare il passaggio dalla possibilità alla decisione.

Questo è PENSAI.

---

Disclaimer

Questo saggio l’ho scritto con il supporto di strumenti di intelligenza artificiale.

Ho utilizzato l’IA come supporto alla ricerca, all’organizzazione delle informazioni, all’analisi e alla redazione del testo. Ho verificato le informazioni utilizzate sulla base delle fonti indicate e invito il lettore a consultarle direttamente.

Le valutazioni, le interpretazioni e la proposta relativa a PENSAI rappresentano il mio lavoro e la mia elaborazione progettuale. Quando descrivo sviluppi futuri, li presento come mie ipotesi e non come risultati già conseguiti.

Presento PENSAI come un progetto e un framework di governance decisionale in evoluzione. Non lo presento come una certificazione di conformità normativa, né come sostituto di consulenza legale, tecnica o professionale.

Le ipotesi relative al mercato, allo sviluppo tecnologico e alle possibili applicazioni future di PENSAI non costituiscono previsioni né garanzie di risultato.

Sono Salvatore Martino e PENSAI è il progetto che sto sviluppando per affrontare una domanda precisa: come possiamo governare la decisione nell’era dell’intelligenza artificiale?

Salvatore Martino — PENSAI

Hyłf Göt!

Fonti e documenti di riferimento

Views: 21