Dal framework PENSAI una proposta per governare l’intelligenza artificiale
Ci sono idee che non invecchiano. Cambiano forma, attraversano le epoche e, quando il mondo si trasforma, chiedono di essere reinterpretate.
Le Tre Leggi della Robotica di Isaac Asimov appartengono a questa categoria. Quando furono formulate, negli anni Quaranta del Novecento, rappresentavano una straordinaria intuizione: immaginare che una macchina intelligente dovesse essere guidata da principi superiori per evitare di diventare una minaccia per l’uomo.
Per decenni quelle tre leggi hanno influenzato scrittori, ricercatori, ingegneri e filosofi. Ancora oggi vengono citate ogni volta che si parla di robotica o di intelligenza artificiale.
Ma il mondo è cambiato.
L’intelligenza artificiale non è più confinata nei laboratori o nelle pagine della fantascienza. È entrata nelle banche, negli ospedali, nelle aziende, nelle scuole, nella pubblica amministrazione e perfino nelle nostre case. Suggerisce investimenti, valuta curriculum, supporta diagnosi mediche, traduce documenti, genera immagini, scrive codice e influenza decisioni che riguardano milioni di persone.
Il problema non è più impedire a un robot di fare del male.
Il problema è garantire che una decisione, quando nasce con il contributo di un sistema artificiale, sia una decisione governata.
È qui che il framework PENSAI propone un cambio di prospettiva.
- Non bisogna governare la macchina.
- Bisogna governare la decisione.
Questa differenza può sembrare sottile, ma cambia completamente il paradigma.
Un robot può essere perfettamente innocuo e, nello stesso tempo, contribuire a una decisione profondamente ingiusta. Allo stesso modo, un sistema di intelligenza artificiale può rispettare ogni protocollo tecnico e produrre comunque risultati errati perché alimentato da dati incompleti, distorti o non verificabili.
La tecnologia, da sola, non garantisce la qualità della decisione.
- Serve un metodo.
- Serve una governance.
È proprio su questo principio che nasce PENSAI.
Il framework parte da un’idea semplice: una decisione non deve essere valutata solo per il risultato che produce, ma soprattutto per il processo che l’ha generata. Un risultato corretto ottenuto attraverso un percorso opaco rimane fragile, perché non può essere verificato né replicato. Al contrario, anche una decisione difficile può essere considerata affidabile quando il processo che l’ha prodotta è trasparente, documentato e controllabile.
Nell’epoca dell’intelligenza artificiale generativa emerge un rischio nuovo. Le macchine non si limitano più a calcolare: producono risposte convincenti. Possono costruire testi, immagini, analisi e argomentazioni che appaiono corrette anche quando non lo sono. L’apparenza della competenza rischia di sostituire la verifica dei fatti.
Per questo motivo il primo dovere di un sistema artificiale non dovrebbe essere quello di rispondere sempre.
Dovrebbe essere quello di riconoscere quando non può rispondere.
L’incertezza dichiarata vale più di una falsa certezza.
Allo stesso modo, nessuna organizzazione dovrebbe poter delegare completamente la responsabilità delle proprie decisioni a un algoritmo. Gli strumenti possono assistere, analizzare, confrontare migliaia di scenari in pochi secondi, ma la responsabilità rimane un attributo umano. Una macchina non risponde davanti alla legge, non firma un contratto, non assume obblighi morali. Dietro ogni decisione deve esistere un soggetto identificabile che ne risponda.
Infine, il progresso tecnologico non può essere misurato soltanto in termini di velocità, efficienza o autonomia. Un sistema rapidissimo ma incomprensibile diventa rapidamente ingestibile. La fiducia nasce dalla possibilità di ricostruire il percorso logico che ha portato a una conclusione. Se una decisione non può essere spiegata, verificata e contestata, non è realmente sotto controllo.
È questa la differenza fondamentale tra la visione immaginata da Asimov e quella proposta dal framework PENSAI.
Asimov cercava di rendere morali i robot.
PENSAI cerca di rendere governabili le decisioni.
La moralità cambia con le culture, con il tempo e con i contesti sociali. La governance, invece, può essere progettata attraverso principi verificabili, indipendentemente dalla tecnologia utilizzata.
- L’obiettivo non è costruire macchine perfette.
- L’obiettivo è costruire processi decisionali affidabili.
- Forse è proprio questa la sfida del nostro tempo.
- Non chiedere all’intelligenza artificiale di sostituire l’uomo.
- Chiederle di aiutarlo a decidere meglio, senza mai rinunciare alla verità, alla responsabilità e alla trasparenza.
Per questo il framework PENSAI propone tre principi fondamentali, pensati non come semplici raccomandazioni tecniche, ma come fondamenta di ogni futuro sistema di decisione artificiale.
Le Tre Leggi della Decisione Artificiale (Framework PENSAI)
I. Legge della Verità
Nessun sistema artificiale può produrre o sostenere una decisione priva di basi verificabili. Se la verità non può essere dimostrata, deve dichiarare la propria incertezza e fermarsi.
II. Legge della Responsabilità
Nessun sistema artificiale può sostituire la responsabilità dell’essere umano. Può assistere la decisione, ma non può esserne il titolare.
III. Legge della Governance
Nessun sistema artificiale può anteporre efficienza, velocità o autonomia alla trasparenza, al controllo e alla tracciabilità. Quando questi principi vengono meno, il sistema deve interrompere la decisione.
Principio Fondativo di PENSAI
Ogni decisione deve poter essere spiegata, verificata e contestata. Se uno solo di questi requisiti manca, la decisione non è governata.
Queste non sono leggi della robotica. Sono una proposta per l’era della decisione artificiale. Perché il futuro non dipenderà soltanto da quanto saranno intelligenti le macchine. Dipenderà, soprattutto, da quanto saremo capaci di governare le decisioni che prenderemo insieme a loro.
Salvatore Martino
Ideatore del Framework PENSAI – Governance della Decisione Artificiale