Perché abbiamo creato l’intelligenza artificiale prima di comprenderne le conseguenze?

OFFLINEMIND.COM · SAGGIO AGNOSTICO · 23 OTTOBRE 2026

Il progresso tecnologico, la responsabilità collettiva e il limite tra ciò che l’essere umano può realizzare e ciò che dovrebbe prima imparare a governare.

L’intelligenza artificiale pone una domanda che precede la tecnologia stessa: perché l’essere umano tende a sviluppare nuove capacità prima di aver compreso pienamente le conseguenze del loro utilizzo?

La domanda non presuppone che l’intelligenza artificiale sia un errore, né che rappresenti necessariamente un progresso. Cerca di comprendere le ragioni di una scelta che, in realtà, non è mai stata compiuta dall’umanità nel suo insieme.

Non esiste un momento storico nel quale tutti gli esseri umani abbiano deciso di creare l’intelligenza artificiale. Esistono ricercatori, istituzioni, imprese, governi e cittadini, ciascuno con interessi, conoscenze e responsabilità differenti. La tecnologia è il risultato dell’interazione fra queste forze, non di una volontà collettiva unitaria.

1. L’origine: prima la possibilità, poi le conseguenze

Il 31 agosto 1955, John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon presentarono una proposta per studiare la possibilità di simulare mediante macchine aspetti dell’apprendimento e dell’intelligenza.

Il documento, consultabile nella sua versione originale attraverso l’archivio di Stanford, mostra che l’obiettivo iniziale era principalmente scientifico: verificare se funzioni considerate proprie dell’intelligenza potessero essere descritte e riprodotte attraverso procedure computazionali.

Quel documento non dimostra che i ricercatori ignorassero ogni possibile conseguenza sociale. Dimostra, più precisamente, che il progetto era orientato a esplorare una possibilità scientifica.

Qui emerge la prima distinzione: dimostrare che una tecnologia è realizzabile non equivale a dimostrare che ogni suo utilizzo futuro sia desiderabile.

La ricerca può aprire possibilità che, al momento della scoperta, non sono ancora valutabili in tutte le loro implicazioni. Il problema nasce quando la capacità tecnica di procedere viene confusa con una giustificazione sufficiente per procedere senza limiti.

2. Perché non ci siamo fermati prima?

Non esiste una sola spiegazione. Almeno quattro dinamiche possono contribuire a comprendere il fenomeno.

La competizione. Se un’impresa o uno Stato teme che altri sviluppino una tecnologia strategica, rinunciare unilateralmente può apparire svantaggioso. Anche quando esistono dubbi sui rischi, la competizione può incentivare a procedere.

L’interesse economico. Una tecnologia capace di automatizzare attività, generare prodotti e creare nuovi mercati può attirare investimenti prima che i suoi effetti sociali siano pienamente conosciuti.

La frammentazione della responsabilità. Chi sviluppa un sistema non coincide necessariamente con chi lo vende, lo utilizza o ne subisce le conseguenze. Questa separazione può rendere difficile individuare chi debba rispondere dei danni.

L’incertezza. Alcune conseguenze sono prevedibili; altre dipendono da comportamenti collettivi, contesti d’uso e sviluppi successivi. Non tutto può essere conosciuto in anticipo.

Queste sono spiegazioni plausibili, non prove che ogni ricercatore o impresa abbia agito irresponsabilmente. La questione da esaminare è se le istituzioni e i meccanismi di controllo siano stati adeguati alla velocità dello sviluppo tecnologico.

3. Conoscere i rischi non significa saperli governare

Una società può riconoscere un rischio senza riuscire a trasformare quella consapevolezza in un limite efficace.

La differenza è sostanziale. Prevedere un problema significa riconoscerne la possibilità; governarlo significa stabilire responsabilità, procedure di verifica, limiti d’impiego e condizioni per interrompere un’attività quando necessario.

Esistono già strumenti istituzionali che cercano di affrontare questa distanza.

• L’OCSE, Principi sull’intelligenza artificiale promuove sistemi affidabili, trasparenza, sicurezza, responsabilità e rispetto dei diritti umani. I principi sono stati adottati nel 2019 e aggiornati nel maggio 2024.

• Il NIST, AI Risk Management Framework propone un quadro per gestire i rischi dell’IA durante progettazione, sviluppo, utilizzo e valutazione.

• Il Regolamento europeo sull’intelligenza artificiale, Regolamento UE 2024/1689 stabilisce obblighi e divieti secondo un approccio basato sul rischio, con applicazione progressiva.

Questi documenti dimostrano che la governance è diventata una questione istituzionale concreta. Non dimostrano, da soli, che i rischi siano stati eliminati o che tutte le conseguenze siano state previste.

Rimane inoltre una questione aperta: le regole riescono a evolvere con la stessa velocità delle tecnologie alle quali si applicano?

4. Il problema filosofico: ciò che possiamo fare è ciò che dobbiamo fare?

La possibilità tecnica non contiene automaticamente una giustificazione morale.

Un sistema può essere efficiente e tuttavia produrre conseguenze sociali indesiderate. Può essere utile a un’organizzazione e svantaggioso per alcuni cittadini. Può aumentare la produttività senza distribuire equamente i benefici.

Questo non significa che ogni innovazione debba essere bloccata in presenza di incertezza. Un simile criterio impedirebbe anche attività potenzialmente benefiche.

Significa, invece, che occorre distinguere tra tre domande:

1. Possiamo costruire questa tecnologia?

2. Quali benefici e quali danni può produrre, per chi e in quali condizioni?

3. Quali garanzie dobbiamo esigere prima di autorizzarne l’impiego?

La seconda e la terza domanda non possono essere considerate semplici conseguenze della prima. Richiedono valutazioni autonome, verifiche e responsabilità definite.

Il punto non è scegliere tra progresso e paura. È evitare che il progresso venga utilizzato come giustificazione sufficiente di sé stesso.

5. Chi ha il diritto di decidere per tutti?

L’intelligenza artificiale non è stata introdotta attraverso un referendum mondiale, né mediante una decisione unanime dell’umanità. Il suo sviluppo è avvenuto attraverso una pluralità di decisioni scientifiche, economiche e politiche.

Da qui nasce un problema di legittimità: chi decide quali rischi siano accettabili quando le conseguenze possono coinvolgere persone che non hanno partecipato alla decisione?

Lasciare tutto alle imprese sarebbe problematico quando gli interessi commerciali entrano in conflitto con quelli collettivi. Affidare tutto ai governi non risolverebbe automaticamente il problema, perché anche le istituzioni possono avere interessi strategici, informazioni incomplete o capacità di controllo insufficienti.

Una governance credibile richiede quindi responsabilità distribuite, competenze indipendenti, trasparenza verificabile e partecipazione pubblica. Richiede inoltre che chi prende le decisioni non possa trasferire interamente ad altri il costo dei propri errori.

Non è una soluzione perfetta. È un criterio con cui valutare le soluzioni proposte.

6. La domanda che avremmo dovuto porci prima

Forse non era necessario fermare tutta la ricerca sull’intelligenza artificiale. Era necessario distinguere meglio la ricerca dalla diffusione, la sperimentazione dall’impiego su larga scala e il vantaggio tecnico dall’accettabilità sociale.

Avremmo potuto domandarci, con maggiore sistematicità, quali impieghi richiedessero verifiche preventive, quali decisioni dovessero restare sotto responsabilità umana e quali condizioni avrebbero imposto una sospensione.

Non possiamo sapere con certezza se un percorso diverso avrebbe evitato tutti i problemi attuali. Possiamo però verificare se le decisioni siano state accompagnate da valutazioni proporzionate alle conseguenze possibili.

È qui che la questione diventa universale.

La stessa difficoltà si presenta con altre tecnologie: energia nucleare, ingegneria genetica, sorveglianza digitale e automazione industriale. La capacità di intervenire sulla realtà cresce spesso più rapidamente della capacità collettiva di stabilire limiti condivisi.

Conclusione: il vero significato del progresso

Non è possibile attribuire a un’unica causa la scelta storica di sviluppare l’intelligenza artificiale. La ricerca della conoscenza, gli interessi economici, la competizione e le aspettative di utilità hanno contribuito, in modi differenti, al suo sviluppo.

Non è neppure corretto affermare che nessuno abbia pensato ai rischi: le fonti scientifiche e istituzionali documentano riflessioni e tentativi di regolamentazione.

La questione più precisa è un’altra: quanto spazio abbiamo dato alla comprensione delle conseguenze rispetto alla spinta a realizzare nuove capacità?

Una civiltà non si misura soltanto da ciò che riesce a costruire. Si misura anche dalla capacità di valutare ciò che costruisce, riconoscere i propri limiti e correggere le decisioni quando emergono conseguenze indesiderate.

La domanda iniziale, quindi, rimane aperta. Non per condannare l’intelligenza artificiale, ma per stabilire un criterio valido anche per le tecnologie future:

prima di domandarci se possiamo fare qualcosa, dobbiamo essere capaci di spiegare perché farla, a vantaggio di chi, a quale rischio e sotto la responsabilità di chi.

Fonti documentali

1. McCarthy, Minsky, Rochester e Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence (1955). Documento originale, Stanford University.

2. OCSE, AI Principles. Principi e aggiornamenti ufficiali.

3. NIST, AI Risk Management Framework. Quadro ufficiale per la gestione dei rischi.

4. Unione europea, Regolamento (UE) 2024/1689. Testo normativo ufficiale in italiano.

Nota editoriale: articolo elaborato con il supporto dell’intelligenza artificiale. Le fonti sono riportate per consentire la verifica diretta delle informazioni documentali.

Views: 1