Quando la fantascienza comincia a diventare realtà
Una vecchia storia, una domanda sempre più attuale
Tempo fa scrissi un racconto di fantascienza e lo pubblicai in forma di libro. Lo acquistarono in pochi, soprattutto amici e conoscenti.
Non fu un successo editoriale. E, per molto tempo, la cosa finì lì.
Poi qualcosa è cambiato.
Non nel libro. Nel mondo intorno al libro.
Rileggendo oggi alcune delle idee contenute in Il Dividendo dell’Errore, mi sono accorto che una domanda che allora apparteneva alla fantascienza oggi appare sorprendentemente concreta:
quanto costa un errore commesso da una macchina e chi deve sostenerne il costo?
La scheda del libro è disponibile su Amazon Italia.
Un approfondimento sull’opera è stato pubblicato da OffLineMind.
Quando l’errore esce dal computer
Un errore informatico, un tempo, era soprattutto un problema tecnico.
Si individuava il bug, si correggeva il codice e il problema poteva considerarsi risolto.
L’intelligenza artificiale introduce una situazione diversa.
Un sistema può oggi generare informazioni, formulare previsioni, classificare persone o contenuti, assistere professionisti e contribuire a decisioni che producono conseguenze nel mondo reale.
A quel punto l’errore non è più confinato nel software.
Diventa una conseguenza.
E una conseguenza può avere un costo.
Economico. Sociale. Organizzativo. Reputazionale. Talvolta anche legato alla sicurezza o ai diritti delle persone.
La domanda diventa inevitabile:
chi risponde?
La realtà ha cominciato a costruire strumenti
Questa non è più soltanto una discussione teorica.
L’Unione europea ha adottato il Regolamento (UE) 2024/1689, l’AI Act, introducendo un quadro normativo basato anche sulla valutazione e gestione dei rischi.
Per i sistemi ad alto rischio, l’articolo 9 prevede un sistema di gestione del rischio continuo, comprendente identificazione, analisi e valutazione dei rischi durante il ciclo di vita del sistema.
La domanda tecnologica, quindi, non è più soltanto:
“Funziona?”
È diventata:
“Quali rischi introduce?”
E soprattutto:
“Cosa succede quando sbaglia?”
L’errore comincia ad avere un’identità
Un passaggio particolarmente significativo arriva dall’OCSE.
L’organizzazione distingue oggi tra AI incidents e AI hazards: eventi che producono danni e situazioni che potrebbero plausibilmente condurre a tali eventi.
Non è una semplice questione terminologica.
Per poter governare un fenomeno bisogna prima riuscire a identificarlo.
E ciò che viene identificato può essere classificato, monitorato e analizzato.
Nel 2025 l’OCSE ha inoltre lavorato alla definizione di un quadro comune per la segnalazione degli incidenti di IA.
Nel 2026 ha pubblicato un’analisi delle tendenze degli incidenti e dei rischi dell’IA, prendendo in esame diverse categorie di rischio, dalle allucinazioni dei modelli alle frodi, dalla privacy alla sicurezza e al lavoro.
La macchina che sbaglia, dunque, sta lentamente passando dalla categoria del malfunzionamento a quella dell’evento da governare.
Il problema non è la macchina. È la catena.
Dire semplicemente “ha sbagliato l’IA” non basta.
Dietro ogni sistema esiste una catena:
dati → modello → sviluppo → integrazione → utilizzo → supervisione → decisione.
L’errore può nascere in uno qualsiasi di questi passaggi.
- Un dato inadeguato.
- Un modello non adatto.
- Un’integrazione errata.
- Un controllo insufficiente.
- Un uso improprio.
- Una supervisione umana troppo debole.
La responsabilità, quindi, non può essere automaticamente trasferita alla macchina.
Il problema diventa quello dell’accountability lungo l’intero ciclo di vita.
È proprio una delle questioni affrontate dai principi e dai lavori dell’OCSE sulla responsabilità nell’IA.
Se c’è un valore, esiste anche un costo
Ed è qui che il titolo del vecchio racconto assume oggi un significato particolare.
L’intelligenza artificiale viene presentata soprattutto attraverso il valore che può generare:
più produttività, maggiore velocità, automazione, nuovi servizi.
Ma ogni sistema che produce valore può anche produrre un valore negativo.
Un errore può generare una perdita.
Il problema è che il beneficio può essere immediatamente contabilizzato mentre il costo dell’errore può essere diffuso, ritardato o difficilmente misurabile.
Da qui nasce una domanda economica che è anche una domanda politica:
chi beneficia dell’automazione e chi sostiene il costo dei suoi fallimenti?
È una questione destinata a diventare sempre più importante.
Il “dividendo dell’errore”
Il termine “dividendo” non deve essere interpretato necessariamente come un pagamento automatico.
Può essere letto come una provocazione concettuale.
Se l’errore della macchina produce un costo, quel costo non dovrebbe scomparire semplicemente perché l’origine è algoritmica.
Bisogna poterlo:
identificare → misurare → attribuire → gestire.
Ed eventualmente, quando previsto dalle norme o dai rapporti contrattuali, compensare.
Questa sequenza appartiene ormai alla governance tecnologica.
Una previsione? Non necessariamente
Qui serve cautela.
Non posso dimostrare che Il Dividendo dell’Errore abbia previsto l’attuale evoluzione dell’intelligenza artificiale.
Sarebbe una conclusione troppo forte.
La verifica interessante è un’altra.
Una domanda formulata allora è diventata oggi una questione concreta?
Le fonti sembrano indicare di sì, almeno in parte.
Non perché oggi esista necessariamente il “dividendo dell’errore” immaginato nella storia.
Ma perché esistono ormai:
- sistemi di gestione del rischio;
- classificazioni degli incidenti;
- procedure di monitoraggio;
- principi di accountability;
- norme specifiche sull’IA;
- studi dedicati ai danni prodotti dai sistemi artificiali.
La coincidenza, quindi, non deve essere cercata nella previsione letterale.
Può essere cercata nella domanda.
Forse la fantascienza fa qualcosa di diverso dal prevedere
La fantascienza viene spesso giudicata sulla capacità di anticipare il futuro.
Ma forse è un criterio troppo limitato.
Un autore può sbagliare la tecnologia, la data e persino lo scenario.
E tuttavia può cogliere prima di altri un problema.
La fantascienza può funzionare come un laboratorio nel quale vengono sperimentate, attraverso la narrazione, situazioni che la società reale incontrerà soltanto anni dopo.
Non necessariamente:
“Questo accadrà.”
Piuttosto:
“Se accadesse, cosa dovremmo fare?”
È una differenza fondamentale.
Il libro vendette poco. L’idea forse è invecchiata bene.
Questa è la parte più personale della storia.
Il libro fu acquistato da poche persone. Soprattutto amici e conoscenti. Dal punto di vista commerciale, quindi, il risultato fu modesto. Ma il successo commerciale e la durata di un’idea sono grandezze diverse.
Un libro può vendere moltissimo e diventare rapidamente irrilevante.
Un altro può essere letto da pochissimi e contenere una domanda destinata a diventare importante molto tempo dopo.
Non significa che il libro abbia previsto il futuro.
Significa qualcosa di più semplice e, forse, più interessante:
alcune idee non invecchiano insieme al loro autore.
A volte è la realtà che, lentamente, raggiunge la fantasia.
La domanda resta aperta
Oggi sappiamo che l’intelligenza artificiale può produrre errori e che alcuni di questi possono avere conseguenze reali.
Sappiamo anche che istituzioni europee e internazionali stanno costruendo strumenti per identificare e governare questi rischi.
Ma rimane la domanda essenziale:
Se una macchina produce valore, chi deve assumersi il costo del valore negativo prodotto dai suoi errori?
Forse il futuro non sarà quello immaginato nel libro.
Non importa.
La fantascienza non deve necessariamente indovinare il futuro.
Talvolta basta che faccia la domanda giusta prima che il futuro sia arrivato.
Fonti verificabili
- Salvatore Martino, Il Dividendo dell’Errore — Amazon Italia
- Approfondimento sull’opera — OffLineMind
- Unione europea, Regolamento (UE) 2024/1689 – AI Act — EUR-Lex
- NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0) — NIST
- OECD, Defining AI incidents and related terms — OECD
- OECD, Towards a common reporting framework for AI incidents — OECD
- OECD, Trends in AI incidents and hazards reported by the media — OECD
- OECD, Advancing accountability in AI — OECD
Nota metodologica
Questo articolo non sostiene che Il Dividendo dell’Errore abbia previsto il futuro. Mette a confronto un’idea narrativa con problemi oggi documentati da fonti istituzionali. Le analogie sono quindi interpretative e non costituiscono una prova di previsione.
Disclaimer IA
Questo articolo è stato elaborato con l’ausilio dell’intelligenza artificiale. L’IA ha contribuito alla ricerca, alla verifica delle fonti e alla rielaborazione editoriale. Le interpretazioni, le valutazioni e la responsabilità finale del contenuto restano dell’autore umano.
Hyłf Göt!
Views: 6
