Nell’epoca della sovrapproduzione informativa, il rischio non è soltanto credere alle notizie false, ma perdere progressivamente la capacità di riconoscere ciò che merita di essere creduto.
1. Introduzione: troppe informazioni, poca conoscenza
Viviamo in un periodo nel quale la produzione di informazioni cresce a una velocità che supera la capacità di una singola persona di leggerle, confrontarle e verificarle.
Ogni giorno vengono pubblicati articoli, analisi, rapporti, commenti, ricerche e contenuti audiovisivi. L’intelligenza artificiale generativa ha ridotto ulteriormente le difficoltà tecniche necessarie per produrre testi apparentemente professionali.
Un singolo argomento può essere affrontato da migliaia di autori, ripreso da altrettanti siti e trasformato in una quantità praticamente inesauribile di contenuti.
Nessun individuo può seguire integralmente ogni sviluppo di tutti gli argomenti ai quali è interessato. Per questo ricorriamo sempre più spesso a strumenti che riassumono documenti, confrontano informazioni, individuano fonti e propongono ricostruzioni sintetiche.
È una risposta comprensibile a un problema reale.
Ma proprio qui nasce una domanda fondamentale: se utilizziamo l’intelligenza artificiale per comprendere informazioni che non abbiamo il tempo di verificare personalmente, su quali basi possiamo fidarci delle conclusioni che ci vengono presentate?
Non basta rispondere che l’IA è utile. Non basta nemmeno sostenere che sia pericolosa.
Occorre esaminare il problema senza pregiudizi, compresa la possibilità che le nostre convinzioni iniziali siano sbagliate.
È questo il punto di partenza di un’indagine agnostica.
2. L’illusione della conoscenza
Immaginiamo di voler comprendere un conflitto internazionale, una crisi economica o una nuova scoperta scientifica.
Abbiamo a disposizione centinaia di articoli, rapporti istituzionali, dichiarazioni politiche, studi accademici e commenti di esperti.
Non disponiamo del tempo necessario per leggerli tutti.
Chiediamo quindi a un’intelligenza artificiale di sintetizzare il materiale e di presentarci i fatti principali.
In pochi secondi riceviamo una risposta ordinata, grammaticalmente corretta e apparentemente equilibrata.
Abbiamo guadagnato tempo. Ma abbiamo acquisito conoscenza oppure abbiamo semplicemente ricevuto una ricostruzione che non siamo in grado di verificare?
La distinzione è essenziale.
La sintesi non coincide con la totalità delle informazioni originarie. Qualcuno, o qualcosa, ha selezionato gli elementi da conservare, stabilito quali fossero secondari e organizzato i contenuti secondo una determinata struttura.
Anche quando non esiste alcuna intenzione manipolatoria, queste operazioni possono influenzare la nostra interpretazione.
Un fatto escluso può essere importante quanto un fatto incluso. Una conclusione presentata all’inizio può orientare la lettura di tutte quelle successive. Un’incertezza eliminata per rendere il testo più scorrevole può trasformare un’ipotesi in una certezza apparente.
Il problema non è che ogni sintesi sia inaffidabile. È che non possiamo dedurne l’affidabilità dalla sola qualità della presentazione.
La comprensibilità di una risposta non dimostra la sua veridicità.
Questa regola vale per l’intelligenza artificiale, ma anche per i giornalisti, gli esperti, le istituzioni e gli esseri umani in generale.
3. L’intelligenza artificiale può sbagliare senza accorgersene
I sistemi generativi possono produrre informazioni false, riferimenti inesistenti e spiegazioni convincenti che non corrispondono ai fatti.
Il fenomeno viene spesso chiamato allucinazione, ma il termine può essere fuorviante perché suggerisce un’esperienza mentale simile a quella umana.
Il National Institute of Standards and Technology statunitense, nel documento Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, descrive il problema delle cosiddette confabulazioni: contenuti erronei o falsi che un sistema generativo può presentare con sicurezza.
Non è necessario supporre che la macchina voglia ingannare qualcuno.
Il problema è che la produzione di una risposta plausibile non garantisce che quella risposta sia corretta.
Un sistema può formulare una ricostruzione coerente utilizzando informazioni incomplete, interpretando male una domanda o combinando elementi che non dovrebbero essere associati.
Può inoltre fornire riferimenti apparentemente autorevoli che non sostengono realmente le affermazioni formulate.
Queste possibilità diventano particolarmente rilevanti quando chiediamo all’IA di sintetizzare argomenti complessi, controversi o in rapida evoluzione.
Occorre quindi distinguere almeno tre proprietà:
- Fluidità: la risposta è espressa in modo comprensibile.
- Coerenza: le diverse parti della risposta sembrano compatibili.
- Attendibilità: le affermazioni sono sostenute da prove adeguate.
Le prime due proprietà non dimostrano automaticamente la terza.
Non dobbiamo neppure cadere nell’errore opposto: un sistema può fornire risposte corrette e utili. La questione è stabilire in quali condizioni il suo contributo sia sufficientemente affidabile e come verificarlo.
La fiducia non dovrebbe essere una caratteristica attribuita preventivamente a uno strumento. Dovrebbe essere una conclusione proporzionata alle prove disponibili.
4. La manipolazione più pericolosa potrebbe essere l’omissione
Quando si parla di disinformazione, si pensa soprattutto alla diffusione di notizie inventate.
È un problema reale, ma non esaurisce le possibilità di condizionamento.
Una persona può essere indotta a costruire una rappresentazione distorta della realtà anche attraverso informazioni singolarmente corrette.
È sufficiente selezionare alcuni fatti, ignorarne altri e ripetere una determinata interpretazione fino a renderla familiare.
Questo meccanismo non appartiene esclusivamente all’intelligenza artificiale. È presente nella propaganda politica, nella comunicazione commerciale, nel giornalismo fazioso e nelle normali dinamiche sociali.
L’IA introduce tuttavia nuove possibilità di produzione e personalizzazione dei contenuti.
È possibile generare rapidamente numerose varianti di un messaggio, adattarle a pubblici diversi e produrre testi, immagini, voci o video artificiali.
La questione decisiva non è soltanto quante informazioni false possano essere create, ma quanto diventi difficile distinguere le informazioni affidabili da quelle manipolate.
Esiste inoltre una forma di influenza meno evidente: la definizione dell’agenda informativa.
Chi stabilisce quali argomenti meritino attenzione? Quali fonti vengono considerate? Quali interpretazioni sono presentate come principali e quali restano marginali?
Un sistema che seleziona le informazioni può influenzare la nostra comprensione anche senza formulare direttamente una falsità.
Questo non dimostra che ogni sistema di IA sia progettato per manipolare gli utenti. Un’affermazione simile richiederebbe prove specifiche.
Dimostra, invece, che la selezione delle informazioni costituisce un punto nel quale possono concentrarsi errori, pregiudizi e interessi.
Per valutare una risposta dobbiamo esaminare non soltanto ciò che afferma, ma anche ciò che lascia fuori e le ragioni per cui lo lascia fuori.
5. Possiamo fidarci delle notizie che leggiamo?
La risposta razionale non è né un sì incondizionato né un no assoluto.
Non tutte le fonti hanno la stessa affidabilità. Non tutte le notizie sono ugualmente documentate. Non tutte le interpretazioni hanno lo stesso sostegno probatorio.
Una fonte istituzionale può essere autorevole su un dato amministrativo, ma non necessariamente imparziale nell’interpretazione politica delle proprie decisioni.
Un giornale può pubblicare un’inchiesta rigorosa e, contemporaneamente, esprimere una linea editoriale riconoscibile.
Uno studio scientifico può offrire risultati solidi entro determinati limiti, senza dimostrare tutto ciò che qualcuno vorrebbe ricavarne.
Anche una fonte indipendente può sbagliare.
Per questo la valutazione dovrebbe riguardare le singole affermazioni, le prove disponibili e la competenza della fonte nello specifico ambito.
Cinque domande possono aiutarci:
- Origine: chi ha prodotto l’informazione?
- Prove: quali documenti, dati o osservazioni la sostengono?
- Indipendenza: le altre fonti confermano il fatto sulla base di verifiche autonome oppure ripetono tutte la stessa notizia originaria?
- Incertezza: quali elementi sono accertati e quali rimangono controversi?
- Correggibilità: è possibile controllare i dati, contestare la ricostruzione e correggere gli errori?
Quest’ultima domanda merita particolare attenzione.
Una fonte che rende verificabili i propri risultati e corregge pubblicamente gli errori offre maggiori possibilità di controllo rispetto a una fonte che chiede soltanto di essere creduta.
Il numero delle pubblicazioni non costituisce una prova indipendente. Cento siti che riprendono la medesima affermazione non equivalgono necessariamente a cento conferme.
La ripetizione può aumentare la familiarità di un’informazione senza aumentarne la veridicità.
6. Il rischio della delega del pensiero
Finora abbiamo esaminato la qualità delle informazioni.
Ma il problema presenta una seconda dimensione: il rapporto tra gli strumenti che utilizziamo e la nostra autonomia intellettuale.
Delegare alcune operazioni a una macchina non significa necessariamente rinunciare a pensare.
Utilizziamo da tempo strumenti che estendono le nostre capacità: libri, calcolatrici, motori di ricerca, archivi digitali e programmi di analisi.
L’intelligenza artificiale può aiutarci a comprendere un testo difficile, confrontare documenti, individuare contraddizioni e formulare domande che non avevamo considerato.
Il rischio nasce quando la delega operativa diventa una delega del giudizio.
Consideriamo tre situazioni.
Prima situazione: assistenza.
L’IA organizza le informazioni e propone una sintesi. La persona controlla le fonti, esamina le incertezze e formula autonomamente la propria conclusione.
Seconda situazione: dipendenza.
La persona utilizza la sintesi senza verificarla perché non dispone del tempo, delle competenze o delle risorse necessarie.
Terza situazione: rinuncia al giudizio.
La persona considera corretta una conclusione principalmente perché è stata prodotta da un sistema che ritiene autorevole.
Queste situazioni non sono equivalenti.
Nella prima, la tecnologia può rafforzare l’autonomia. Nella seconda, può creare una dipendenza pratica. Nella terza, rischia di sostituirsi al processo attraverso il quale una persona valuta le ragioni di una conclusione.
Non possiamo affermare che ogni utilizzatore dell’IA stia perdendo capacità critiche. Per stabilirlo servono studi empirici adeguati.
Possiamo però riconoscere una vulnerabilità strutturale: quando non abbiamo gli strumenti per controllare una risposta, diventiamo maggiormente dipendenti dall’affidabilità di chi la produce.
Il problema non è utilizzare l’intelligenza artificiale.
È non riuscire più a distinguere tra una risposta che comprendiamo e una risposta alla quale ci limitiamo a credere.
7. Chi controlla i sistemi che organizzano la conoscenza?
L’analisi non può fermarsi al comportamento delle singole persone.
I sistemi di IA vengono sviluppati, addestrati, distribuiti e gestiti da organizzazioni che prendono decisioni tecniche ed economiche.
Queste decisioni possono influenzare le informazioni disponibili, le modalità di accesso, i costi dei servizi e le possibilità di verifica.
La concentrazione delle risorse tecnologiche può inoltre conferire a un numero limitato di soggetti un’influenza significativa sulle infrastrutture attraverso cui circolano le informazioni.
Non è necessario ipotizzare un piano coordinato di manipolazione per riconoscere il problema.
Un’organizzazione può perseguire legittimamente obiettivi commerciali e, nello stesso tempo, prendere decisioni che producono conseguenze sociali non trascurabili.
Un sistema può privilegiare determinati risultati per ragioni tecniche, economiche o editoriali senza che ciò dimostri l’esistenza di un’intenzione politica nascosta.
Occorre distinguere gli effetti osservabili dalle intenzioni attribuite.
La domanda corretta non è quindi se esista necessariamente qualcuno che controlla tutte le informazioni.
È se le persone dispongano di strumenti sufficienti per comprendere e contestare le decisioni dei sistemi dai quali dipendono.
Chi può verificare i criteri utilizzati? Chi risponde degli errori? Quali possibilità esistono per contestare un risultato? Quanto è difficile cambiare servizio o consultare fonti alternative?
Queste domande riguardano la trasparenza, la concorrenza, la responsabilità e i diritti delle persone.
La disponibilità tecnica di milioni di informazioni non garantisce, da sola, una distribuzione equa del potere di interpretarle.
8. La trasparenza è necessaria, ma non basta
L’Unione europea ha introdotto, attraverso il regolamento sull’intelligenza artificiale, obblighi di trasparenza per determinate categorie di sistemi e contenuti.
L’articolo 50 dell’AI Act disciplina, tra le altre cose, l’informazione agli utenti che interagiscono direttamente con sistemi di IA e la riconoscibilità di determinati contenuti generati o manipolati artificialmente. Prevede inoltre specifici obblighi di informazione per alcuni contenuti pubblicati nell’interesse pubblico, con condizioni ed eccezioni definite dalla norma.
Gli obblighi di trasparenza dell’articolo 50 si applicano dal 2 agosto 2026, secondo il quadro normativo europeo vigente.
È un passo importante, ma non risolve da solo il problema epistemico.
Sapere che un testo è stato generato dall’IA non dimostra che sia falso.
Sapere che un testo è stato scritto da un essere umano non dimostra che sia vero.
Un contenuto artificiale può essere accurato, mentre un articolo scritto senza alcun supporto tecnologico può contenere errori o manipolazioni.
Anche un’etichetta che dichiara l’origine artificiale di un contenuto non permette necessariamente di ricostruire le fonti utilizzate, verificare le affermazioni o individuare le omissioni.
La trasparenza sull’origine è quindi diversa dalla trasparenza sulle prove.
Per valutare una notizia occorrono entrambe, insieme alla possibilità di controllare la ricostruzione.
Il criterio dovrebbe essere semplice: non dobbiamo limitarci a sapere come è stato prodotto un contenuto; dobbiamo poter valutare quanto sia giustificato credervi.
9. Un metodo di difesa: verificare prima di credere
Non possiamo pretendere che ogni cittadino diventi contemporaneamente giornalista, scienziato, informatico e investigatore.
Una simile richiesta sarebbe irrealistica e trasferirebbe sulle singole persone una responsabilità che appartiene anche alle istituzioni, alle piattaforme e ai produttori di contenuti.
Possiamo però adottare alcune regole proporzionate all’importanza delle informazioni.
Regola 1. Separare i fatti dalle interpretazioni
Una dichiarazione verificabile non è la stessa cosa di un’opinione sulla sua importanza.
Quando leggiamo una ricostruzione, dobbiamo identificare quali affermazioni descrivono eventi documentati e quali rappresentano interpretazioni.
Regola 2. Risalire alle fonti originarie
Quando possibile, dobbiamo consultare il documento originale, lo studio, il comunicato o il dato statistico.
Una sintesi può essere utile per orientarsi, ma non dovrebbe diventare automaticamente il sostituto della fonte che riassume.
Regola 3. Cercare conferme indipendenti
Confrontare più pubblicazioni ha valore soltanto se le verifiche sono realmente indipendenti.
La ripresa della stessa notizia da parte di molti siti può creare un’apparenza di consenso che non corrisponde a una pluralità di prove.
Regola 4. Chiedere all’IA di mostrare i propri limiti
Possiamo chiedere quali affermazioni siano maggiormente documentate, quali siano controverse, quali prove manchino e quali interpretazioni alternative meritino attenzione.
Dobbiamo però ricordare che anche le risposte a queste domande possono contenere errori.
L’IA può aiutarci a verificare una ricostruzione, ma non costituisce automaticamente una verifica indipendente di sé stessa.
Regola 5. Sospendere il giudizio quando necessario
Non sempre abbiamo prove sufficienti per concludere.
Riconoscere l’incertezza non significa essere incapaci di decidere. Significa evitare di trasformare l’assenza di conoscenza in una certezza inventata.
Quando una decisione è importante, la soglia di verifica dovrebbe essere proporzionata alle conseguenze di un eventuale errore.
Queste regole non eliminano il rischio. Lo rendono più riconoscibile e, in parte, più controllabile.
10. PENSAI e la necessità di una governance epistemica
Il problema apre uno spazio di ricerca per PENSAI.
Se un sistema di intelligenza artificiale può selezionare, sintetizzare e organizzare informazioni che influenzano le decisioni umane, non è sufficiente valutarne soltanto la capacità di produrre risposte plausibili.
Occorre esaminare anche il percorso che conduce alla conclusione.
Una possibile governance epistemica dovrebbe verificare almeno sei dimensioni:
- Provenienza: da quali fonti derivano le affermazioni?
- Attendibilità: quali elementi sostengono ciascuna affermazione?
- Completezza: quali informazioni rilevanti potrebbero mancare?
- Incertezza: quali limiti impediscono una conclusione più solida?
- Contestabilità: è possibile ricostruire e mettere in discussione il ragionamento?
- Responsabilità: chi risponde delle conseguenze dell’utilizzo del risultato?
Queste dimensioni possono essere tradotte in procedure verificabili.
Per esempio, un sistema potrebbe distinguere esplicitamente tra fatti documentati, affermazioni non confermate e interpretazioni. Potrebbe segnalare quando le fonti disponibili sono insufficienti e sospendere la produzione di una conclusione definitiva.
Tuttavia, dobbiamo evitare un errore metodologico.
La presenza di una procedura di controllo non dimostra automaticamente che il controllo sia efficace. Anche un sistema di governance può applicare criteri inadeguati, utilizzare dati incompleti o produrre valutazioni errate.
PENSAI dovrebbe quindi essere sottoposto alle stesse verifiche che propone per gli altri sistemi.
I suoi criteri dovrebbero essere documentati, i suoi risultati confrontabili con prove indipendenti e i suoi limiti dichiarati.
La sua utilità dovrebbe essere dimostrata attraverso prove, non dedotta dalle intenzioni di chi lo sviluppa.
Un sistema che pretende di governare l’affidabilità delle informazioni deve accettare di essere sottoposto a verifica.
Questo principio non rappresenta un limite da aggirare. È una condizione della sua credibilità.
11. Il punto di vista agnostico: che cosa sappiamo davvero?
A questo punto dobbiamo distinguere ciò che possiamo sostenere da ciò che rimane da dimostrare.
Possiamo affermare che i sistemi generativi possono produrre informazioni false e che una presentazione convincente non garantisce la correttezza.
Possiamo osservare che la produzione automatizzata facilita la creazione di grandi quantità di contenuti e che la loro origine non sempre è immediatamente riconoscibile.
Possiamo inoltre riconoscere che la selezione delle informazioni può influenzare la comprensione di un argomento e che la concentrazione delle infrastrutture informative solleva questioni di responsabilità e potere.
Non possiamo invece concludere, senza prove specifiche, che tutte le IA siano manipolatorie, che ogni sintesi sia inaffidabile o che l’utilizzo degli strumenti generativi provochi inevitabilmente una perdita di autonomia intellettuale.
Non possiamo nemmeno supporre che una soluzione tecnica, una certificazione o un metodo di governance possano eliminare ogni possibilità di errore.
L’approccio agnostico non impone di rimanere eternamente indecisi.
Impone di proporzionare le conclusioni alle prove e di mantenere aperta la possibilità di correggerle.
In questo senso, il dubbio metodico non è una debolezza della conoscenza. È uno dei suoi strumenti di controllo.
12. Conclusione: non dobbiamo smettere di pensare
La questione fondamentale non è stabilire se l’intelligenza artificiale sia buona o cattiva.
Questa contrapposizione è troppo semplice per descrivere una tecnologia che può essere utilizzata in modi differenti, produrre benefici reali e generare rischi significativi.
La questione è stabilire quali condizioni siano necessarie affinché il suo utilizzo migliori la capacità delle persone di comprendere la realtà senza compromettere la loro autonomia.
Una società può disporre di strumenti potentissimi per produrre e distribuire informazioni e, nello stesso tempo, incontrare difficoltà crescenti nel distinguere le conoscenze documentate dalle affermazioni non verificate.
Può ricevere risposte in pochi secondi senza avere il tempo, le competenze o gli strumenti necessari per valutarle.
Può delegare una parte crescente del lavoro intellettuale senza rendersi conto di quanto la propria comprensione dipenda dai criteri utilizzati dai sistemi ai quali si affida.
Non è inevitabile che questo accada. È un rischio da esaminare, misurare e governare.
La soluzione non consiste nel rifiutare l’intelligenza artificiale, ma nemmeno nell’accettarla come un’autorità.
Consiste nel costruire strumenti che aiutino le persone a comprendere le informazioni, riconoscere le incertezze, verificare le fonti e contestare le conclusioni.
La tecnologia dovrebbe aumentare le nostre possibilità di giudizio, non rendere superfluo il giudizio stesso.
E soprattutto, nessun sistema dovrebbe essere considerato affidabile soltanto perché si dichiara affidabile.
Questo vale per le piattaforme commerciali, per le istituzioni, per gli esperti, per i mezzi di informazione e per qualsiasi metodo di governance dell’intelligenza artificiale, compreso PENSAI.
La responsabilità umana non può essere eliminata mediante una delega tecnica. Può essere esercitata meglio grazie a strumenti adeguati, ma deve restare riconoscibile.
La domanda finale, quindi, non è soltanto se possiamo fidarci delle informazioni che leggiamo.
È se siamo disposti a pretendere sistemi che ci consentano di verificare le ragioni per cui dovremmo fidarci.
Perché il vero progresso non consiste nell’ottenere risposte sempre più rapidamente.
Consiste nel diventare più capaci di distinguere una risposta convincente da una risposta giustificata.
E una società libera non dovrebbe chiedere ai propri cittadini di credere ciecamente né agli esseri umani né alle macchine.
Dovrebbe offrire loro le condizioni per comprendere, verificare e decidere.
Nota metodologica
Questo saggio è stato elaborato con il supporto dell’intelligenza artificiale. Le affermazioni generali sono distinte dalle ipotesi interpretative e dalle proposte normative. Il testo non costituisce una dimostrazione empirica di tutti i rischi descritti: le ipotesi sugli effetti sociali della delega cognitiva e sulla governance epistemica richiedono ulteriori verifiche.
Fonti documentali
Le seguenti fonti istituzionali sostengono i passaggi relativi ai rischi dei sistemi generativi, alla centralità umana e alla trasparenza. Non dimostrano automaticamente tutte le tesi interpretative del saggio.
- NIST — Generative Artificial Intelligence Profile: analizza rischi e limiti dell’IA generativa, comprese le confabulazioni. Documento tecnico NIST AI 600-1
- UNESCO — Guidance for Generative AI in Education and Research: affronta le implicazioni educative ed etiche dell’IA generativa e promuove un approccio centrato sull’essere umano. Documento UNESCO
- Commissione europea — Obblighi di trasparenza dell’AI Act: chiarisce gli obblighi previsti dall’articolo 50 e la loro applicazione dal 2 agosto 2026. Documentazione ufficiale sull’articolo 50
Views: 1