AntiDeriva: il modulo di PENSAI che separa la possibilità dalla decisione
PENSAI esisteva prima dell’AI Act. AntiDeriva affronta il problema della deriva nel processo decisionale assistito dall’intelligenza artificiale.
L’intelligenza artificiale è diventata rapidamente capace di generare testi, analizzare informazioni, costruire scenari, proporre alternative e, con i sistemi agentici, anche eseguire sequenze di azioni.
Ma una domanda rimane fondamentale:
chi governa il passaggio dalla possibilità alla decisione?
È una domanda che PENSAI si poneva già prima dell’attuale fase applicativa dell’AI Act.
PENSAI non è nato come semplice risposta normativa. È nato dalla necessità di strutturare il processo decisionale, separando la generazione delle possibilità dalla loro valutazione e dalla decisione finale.
Tra i concetti sviluppati all’interno di questa architettura c’è AntiDeriva.
Che cos’è la deriva
La deriva non coincide necessariamente con un errore evidente.
Un sistema può produrre risposte plausibili, coerenti e tecnicamente corrette e, nel corso del processo, allontanarsi comunque dall’obiettivo iniziale.
Il problema diventa quindi:
la macchina sta ancora contribuendo a risolvere il problema originale oppure sta semplicemente continuando a produrre risultati?
Questa distinzione è essenziale.
PENSAI rappresenta il processo come:
STATO → OBIETTIVO → OPZIONI → VINCOLI → VALUTAZIONE → DECISIONE → AZIONE → VERIFICA
Generare un’opzione non significa sceglierla.
Valutare un’opzione non significa autorizzarla.
Una decisione non significa automaticamente eseguire un’azione.
Questi passaggi devono rimanere distinguibili.
AntiDeriva: un confine, non un freno
AntiDeriva non nasce per impedire all’AI di generare.
Al contrario, l’intelligenza artificiale può esplorare molte possibilità.
Il problema nasce quando la generazione viene confusa con l’autorità decisionale.
La logica di PENSAI può essere sintetizzata così:
IA → genera possibilità
PENSAI → governa il processo
UOMO → decide
È una separazione architetturale, non soltanto una dichiarazione di principio.
L’isolatore elettrico
Per spiegare AntiDeriva ho utilizzato una metafora che deriva dalla mia formazione tecnica: l’isolatore elettrico.
L’isolatore non elimina l’energia.
Permette alla linea di funzionare mantenendo separato il conduttore dalla struttura che lo sostiene.
Impedisce una connessione indesiderata.
Nel processo decisionale il principio è analogo:
non bisogna impedire all’AI di generare possibilità; bisogna impedire che una possibilità generata diventi automaticamente una decisione.
Il rischio, quindi, non è soltanto l’errore dell’AI.
È anche il cortocircuito decisionale.
Il cortocircuito decisionale
Immaginiamo questo percorso:
domanda → risposta dell’AI → accettazione → azione
Manca qualcosa.
Manca un livello nel quale la risposta possa essere verificata rispetto a:
- problema originale;
- obiettivo;
- vincoli;
- criteri;
- rischio;
- responsabilità;
- condizioni che autorizzano l’azione.
Quando questi elementi vengono saltati, la distanza tra assistenza e decisione automatizzata può ridursi progressivamente.
AntiDeriva rappresenta concettualmente il confine che deve impedire questo passaggio incontrollato.
Perché il tema è diventato ancora più importante nel 2026
Dal 2 agosto 2026 la Commissione europea ha iniziato l’enforcement dell’AI Act e sono diventate applicabili ulteriori disposizioni del regolamento, comprese nuove regole di trasparenza.
L’AI Act dedica inoltre particolare attenzione alla human oversight per i sistemi ad alto rischio: l’articolo 14 richiede che la supervisione umana sia appropriata al rischio, al livello di autonomia del sistema e al contesto di utilizzo.
Questo non significa che AntiDeriva renda automaticamente un sistema conforme all’AI Act.
La conformità dipende dal sistema concreto, dalla sua classificazione, dal contesto e dagli obblighi applicabili.
Ma il problema affrontato da AntiDeriva diventa sempre più rilevante:
come mantenere effettivamente il controllo umano mentre aumenta l’autonomia dei sistemi?
Il controllo umano non può essere soltanto una firma
Dire che “l’uomo è sempre responsabile” non basta.
Se l’essere umano riceve un risultato già confezionato e lo approva senza comprendere il percorso, il controllo può diventare puramente formale.
La supervisione significativa richiede almeno la possibilità di:
comprendere → verificare → contestare → modificare → fermare.
Questo è uno dei motivi per cui PENSAI considera importante la struttura del processo, non soltanto il risultato finale.
La governance deve esistere prima della decisione, non soltanto dopo un eventuale errore.
AntiDeriva e AI agentica
Il problema diventa ancora più evidente con gli agenti IA.
Un sistema che produce una risposta resta relativamente semplice da governare.
Un sistema che interpreta un obiettivo, pianifica, utilizza strumenti e compie una sequenza di azioni introduce un’altra dimensione: l’autonomia operativa.
In questo scenario la domanda non è più soltanto:
“Che cosa ha risposto l’AI?”
Diventa:
“Perché ha intrapreso questa sequenza di azioni e chi aveva autorizzato quel passaggio?”
È precisamente qui che il concetto di deriva assume un peso maggiore.
Più aumenta la capacità di agire, più diventa importante mantenere un confine tra:
possibilità → valutazione → autorizzazione → azione.
PENSAI non vuole sostituire l’AI
Questo punto deve essere chiaro.
PENSAI non è un modello generativo.
Non vuole competere con i modelli di IA.
Non pretende di eliminare l’errore.
Non garantisce che una decisione sia corretta.
Propone un’altra cosa: un livello di governance del processo decisionale.
L’AI può diventare più potente.
PENSAI può diventare più rigoroso nel controllare il processo.
Le due cose non sono in contraddizione.
AntiDeriva in una frase
Se dovessi ridurre tutto il concetto a una sola frase, sarebbe questa:
AntiDeriva serve a impedire che ciò che l’AI può generare venga confuso con ciò che l’AI può decidere.
È una distinzione semplice.
Ma potrebbe diventare una delle distinzioni più importanti nell’architettura dei sistemi uomo-macchina.
Conclusione
PENSAI non è nato perché l’AI Act lo ha richiesto.
L’AI Act ha però reso ancora più evidente l’importanza di problemi che PENSAI aveva già iniziato ad affrontare: governance, controllo umano, tracciabilità, gestione del rischio e separazione tra generazione e decisione.
AntiDeriva nasce dentro questa filosofia.
Non per mettere un freno all’intelligenza artificiale.
Ma per mettere un confine dove il confine serve.
Perché una macchina può generare cento possibilità.
Ma nessuna possibilità dovrebbe diventare una decisione soltanto perché è stata generata da una macchina.
Fonti
- Regolamento (UE) 2024/1689 — Artificial Intelligence Act, in particolare articolo 14 sulla supervisione umana.
- Commissione europea — applicazione ed enforcement dell’AI Act dal 2 agosto 2026.
- NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0).
- NIST, AI RMF: Generative Artificial Intelligence Profile (NIST AI 600-1).
- OffLineMind, PENSAI e la deriva dell’IA: il principio dell’isolatore elettrico.
- OffLineMind, PENSAI: cos’è e come funziona.
Disclaimer sull’IA
Questo articolo è stato elaborato con il supporto di strumenti di Intelligenza Artificiale generativa per ricerca, organizzazione e revisione del testo.
La concezione di PENSAI e del modulo AntiDeriva appartiene all’autore. L’analogia con l’isolatore elettrico è una metafora concettuale e non costituisce una dimostrazione scientifica.
Le fonti normative e tecniche citate sono utilizzate come riferimenti documentali e non implicano alcuna certificazione o validazione di PENSAI da parte delle istituzioni citate.
Il contenuto non costituisce consulenza legale, tecnica o normativa. La responsabilità editoriale e la verifica finale delle informazioni rimangono umane.
Hyłf Göt!
Views: 3
