Dall’algoritmo alla governance: perché PENSAI 4.0 propone un nuovo paradigma per i sistemi decisionali
Abstract
Negli ultimi anni il dibattito sull’intelligenza artificiale si è concentrato soprattutto sui modelli, sulle prestazioni e sulla conformità normativa. Molto meno spazio è stato dedicato a una domanda fondamentale: è possibile progettare un sistema decisionale nel quale la conformità non debba essere verificata dopo l’esecuzione, ma sia una proprietà della sua stessa architettura?
PENSAI 4.0 nasce per esplorare questa possibilità. Non è un modello di intelligenza artificiale né un framework dedicato a un linguaggio specifico, ma un framework di governance algoritmica che trasforma requisiti progettuali e normativi in invarianti verificabili.
Il problema del “Compliance Theater”
Molti sistemi software adottano una strategia ormai comune:
- aggiungono log;
- producono report;
- registrano audit;
- documentano la conformità.
Tuttavia, se il nucleo decisionale contiene scorciatoie logiche, valori predefiniti non dichiarati o eccezioni arbitrarie, tutta questa infrastruttura documentale diventa puramente descrittiva.
La conformità viene raccontata, non garantita.
Questo fenomeno viene definito Compliance Theater.
Un cambio di prospettiva
PENSAI propone un’inversione dell’approccio tradizionale.
Invece di chiedersi:
“Come dimostrare che il sistema è conforme?”
la domanda diventa:
“Come progettare il sistema affinché non possa produrre stati non conformi?”
La differenza è sostanziale.
Nel primo caso la conformità è un’attività.
Nel secondo è una proprietà dell’architettura.
Gli invarianti prima del codice
La versione 4.0 introduce un principio semplice:
prima dell’implementazione devono essere definite le leggi immutabili del sistema.
Queste comprendono, ad esempio:
- continuità matematica del calcolo;
- eliminazione dei fallback impliciti;
- integrità crittografica dell’intero output;
- supervisione umana verificabile crittograficamente;
- separazione rigorosa tra dominio e infrastruttura.
Il software diventa così la conseguenza di regole già definite e non il luogo nel quale esse vengono inventate.
Architettura invece di complessità
Uno degli aspetti più significativi della riscrittura è la riduzione della complessità.
Il Domain Core contiene esclusivamente la logica decisionale.
La sicurezza, il logging, l’analisi del drift e gli altri servizi sono collocati ai confini del sistema e non possono modificare il risultato della decisione.
Questa separazione rende il nucleo:
- più semplice da comprendere;
- più facile da verificare;
- più semplice da testare;
- meno esposto a errori.
Oltre l’AI Act
Sebbene il progetto utilizzi l’AI Act come caso di studio, il principio architetturale è più generale.
Ogni dominio nel quale esistano requisiti formalizzabili potrebbe beneficiare dello stesso approccio:
- sanità;
- finanza;
- infrastrutture critiche;
- cybersecurity;
- sistemi industriali;
- pubblica amministrazione.
L’obiettivo non è creare una soluzione specifica per una normativa, ma un metodo per trasformare regole verificabili in proprietà strutturali del software.
Una proposta, non un dogma
PENSAI non pretende di essere l’unico modello possibile.
Propone invece una tesi tecnica:
la governance di un sistema decisionale dovrebbe essere incorporata nell’architettura e non delegata esclusivamente a procedure, controlli successivi o documentazione.
Questa affermazione è verificabile, discutibile e migliorabile, come ogni proposta scientifica.
Ed è proprio questa apertura al confronto che rende interessante il progetto.
Conclusioni
L’evoluzione dei sistemi decisionali richiede probabilmente un cambio di paradigma.
La domanda non è più soltanto quanto un algoritmo sia accurato o veloce.
La domanda diventa se la sua architettura renda impossibili determinati errori, violazioni o stati non conformi.
PENSAI 4.0 rappresenta un tentativo di rispondere a questa sfida attraverso un framework di governance algoritmica fondato su invarianti matematici, logici e crittografici.
Se questa direzione si dimostrerà valida anche in altri contesti regolamentati, il contributo più importante non sarà un nuovo algoritmo, ma un diverso modo di progettare sistemi decisionali affidabili.
