Quando l’AI decide, Chi governa la decisione?

Chi governa la decisione?

di Salvatore Martino

Da qualche anno parliamo sempre più di intelligenza artificiale come strumento capace di prevedere, classificare, suggerire e, in alcuni casi, decidere. Il Machine Learning ha reso possibile utilizzare enormi quantità di dati per ottenere risultati che prima richiedevano tempi e risorse molto maggiori. Ma c’è una differenza che considero fondamentale: un algoritmo può produrre un risultato senza essere necessariamente in grado di governare la decisione che quel risultato contribuisce a determinare.È da qui che nasce il problema della governance. Il NIST, con il suo AI Risk Management Framework, propone un approccio strutturato alla gestione dei rischi dell’intelligenza artificiale. ISO/IEC 42001 porta questo tema dentro l’organizzazione, definendo un sistema di gestione dedicato all’AI.

Se non ti va  di leggere, ascolta il podcast

Sono strumenti importanti. Ma, a mio avviso, resta una domanda:

chi governa il processo attraverso il quale un’informazione diventa una decisione?

È questa la domanda dalla quale nasce PENSAI. PENSAI non è un sistema di Machine Learning e non vuole sostituire i framework di AI Governance. Il suo campo è un altro: la struttura del processo decisionale. Un modello può dirci che una determinata alternativa presenta una probabilità maggiore. Una struttura di governance può stabilire se quel modello può essere utilizzato, quali rischi comporta e chi ne è responsabile. Ma qualcuno deve ancora stabilire quali alternative sono ammissibili, quali criteri utilizzare, quali vincoli rispettare e quando una decisione debba essere fermata o rimessa all’essere umano.

Qui entra in gioco la Via Unica.

Non significa sostenere che esista sempre una sola risposta corretta. Significa che, una volta dichiarati problema, obiettivo, vincoli, alternative e criteri, il percorso decisionale deve essere ricostruibile e verificabile. È una differenza importante. L’AI produce informazioni. La governance controlla l’uso dell’AI.

PENSAI prova a governare il passaggio dall’informazione alla decisione.

Questa è anche la ragione per cui considero importante l’agnosticismo tecnologico. Il metodo decisionale non dovrebbe dipendere necessariamente dal fatto che l’informazione provenga da un essere umano, da un database, da un algoritmo tradizionale o da un sistema di intelligenza artificiale. La tecnologia cambia rapidamente. La necessità di decidere rimane.

Per questo non penso che la domanda del futuro sarà soltanto quanto è intelligente una macchina? Probabilmente sarà anche: quanto è governabile la decisione alla quale quella macchina contribuisce? PENSAI nasce come una proposta per affrontare questa domanda. Non come conclusione definitiva, ma come metodo da sottoporre a confronto, verifica e critica.

Perché, quando una parte crescente del nostro giudizio viene assistita dalle macchine, forse il problema più importante non è insegnare alle macchine a decidere.

È imparare a governare le decisioni che prendiamo con il loro aiuto.

Fonti

• NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0).
• ISO/IEC 42001:2023, Artificial intelligence — Management system.
• Unione europea, Regolamento (UE) 2024/1689 – Artificial Intelligence Act.

Disclaimer sull’uso dell’Intelligenza Artificiale

Questo articolo è stato realizzato con il supporto di strumenti di Intelligenza Artificiale generativa, utilizzati per ricerca, organizzazione e rielaborazione dei contenuti. La responsabilità editoriale, delle interpretazioni e delle conclusioni espresse rimane dell’autore, Salvatore Martino. Le fonti indicate sono riportate per consentire al lettore la verifica autonoma delle informazioni.