IA e matematica: perché verificare prima di fidarsi

Un’analisi agnostica sulla differenza tra produrre risultati, verificarli e considerarli dimostrati.

Il 6 ottobre 2026 OpenAI ha pubblicato un archivio contenente 722 manoscritti matematici generati da un proprio modello interno. Il giorno successivo, tre manoscritti sono stati ritirati dopo la scoperta di un errore di segno che comprometteva una dimostrazione e due lavori che dipendevano da essa.

La vicenda è stata riportata da Enrico Bucci su Il Foglio e documentata anche da Retraction Watch.

Fonti:

• Il Foglio — OpenAI ritira tre dimostrazioni dopo un giorno
• Retraction Watch — Il ritiro dei tre manoscritti

Non è necessario trasformare questo episodio in una condanna dell’intelligenza artificiale. È sufficiente considerarlo per quello che documenta: anche un sistema capace di produrre risultati matematici complessi può generare errori che richiedono correzioni e ritiri.

La questione fondamentale non è se una macchina possa contribuire alla ricerca scientifica. È quali condizioni debbano essere soddisfatte prima di considerare attendibile ciò che produce.

Il problema della velocità

La ricerca matematica richiede tempo per formulare ipotesi, sviluppare dimostrazioni, individuare passaggi deboli e verificare che le conclusioni derivino effettivamente dalle premesse.

I sistemi di intelligenza artificiale possono accelerare la produzione di candidati risultati. Ma la velocità di produzione e la velocità di verifica non sono necessariamente equivalenti.

Nel caso esaminato, OpenAI ha pubblicato centinaia di manoscritti, mentre una parte consistente delle dimostrazioni non era ancora formalizzata in Lean, un sistema che permette di verificare formalmente passaggi matematici codificati.

Il punto non è che ogni risultato non formalizzato sia sbagliato. Sarebbe una conclusione ingiustificata. Il punto è che il grado di verifica deve essere dichiarato con precisione.

Una proposta matematica, una dimostrazione scritta, una dimostrazione verificata formalmente e un risultato riconosciuto dalla comunità scientifica non sono necessariamente la stessa cosa.

Confonderli significa attribuire a un risultato un livello di certezza che potrebbe non possedere.

Lean verifica il codice, non ogni possibile interpretazione

La verifica formale costituisce uno strumento importante. Tuttavia, anche questo strumento ha un perimetro preciso.

Un verificatore può controllare che una dimostrazione codificata segua le regole formali e dimostri un determinato enunciato. Non garantisce automaticamente che quell’enunciato corrisponda esattamente al problema scientifico che si intendeva risolvere.

Occorre quindi distinguere due domande:

1. Il procedimento formale dimostra correttamente l’enunciato codificato?
2. L’enunciato codificato è davvero quello che interessa alla ricerca scientifica?

La prima domanda riguarda la correttezza formale. La seconda richiede anche una valutazione del significato, delle ipotesi e della corrispondenza con il problema originario.

Questo non diminuisce il valore della verifica automatizzata. Ne definisce il campo di validità.

Fonte primaria: OpenAI — Condividere i progressi dell’IA in matematica.

L’errore non è il vero scandalo

Un errore di segno può capitare a un ricercatore umano, a uno studente o a un sistema automatizzato. La presenza dell’errore, da sola, non dimostra un fallimento generale.

La questione più importante è come l’errore venga individuato, comunicato, corretto e contenuto.

Nel caso dei tre manoscritti, OpenAI ha dichiarato di aver individuato il problema durante un controllo interno e ha ritirato i lavori interessati. Ha inoltre apportato correzioni ad altri manoscritti.

Queste azioni sono parte del processo di controllo scientifico, non una prova automatica né di affidabilità generale né di inaffidabilità generale.

Una valutazione seria deve considerare contemporaneamente la capacità di produrre risultati, la qualità dei controlli, la trasparenza delle procedure e la disponibilità a correggere gli errori.

La stessa regola dovrebbe valere per qualsiasi organizzazione, indipendentemente dalla sua reputazione.

Chi verifica ciò che nessuno ha ancora compreso?

Qui emerge una difficoltà più profonda.

Se un sistema produce risultati a una velocità superiore alla capacità degli specialisti di esaminarli, la verifica diventa un collo di bottiglia. Il volume delle pubblicazioni può aumentare senza un incremento proporzionale della conoscenza effettivamente convalidata.

Non basta pubblicare un risultato perché diventi conoscenza condivisa. Occorre che qualcuno possa comprenderlo, controllarlo, riprodurlo e valutarne le implicazioni.

La comunità scientifica non è semplicemente un pubblico al quale consegnare risultati già pronti. È parte del processo attraverso cui le affermazioni vengono messe alla prova.

Per questo la trasparenza deve riguardare non soltanto il risultato finale, ma anche le ipotesi, i limiti, le verifiche eseguite e le correzioni intervenute.

Un sistema opaco può produrre risultati corretti. Ma, quando mancano strumenti sufficienti per valutarli, diventa più difficile stabilire in modo indipendente quanto siano affidabili.

Una lezione che va oltre OpenAI

Questo caso non autorizza a sostenere che tutte le intelligenze artificiali siano inaffidabili. Non dimostra neppure che i sistemi automatizzati non possano produrre scoperte scientifiche autentiche.

Mostra invece perché sia necessario separare tre livelli:

• Produzione: il sistema genera una risposta o propone un risultato.
• Verifica: il risultato viene sottoposto a controlli adeguati.
• Accettazione: le prove disponibili giustificano il grado di fiducia attribuito al risultato.

Saltare direttamente dal primo al terzo livello significa trasformare una capacità di generazione in una presunzione di verità.

Questa distinzione riguarda la matematica, ma anche il software, l’industria, l’amministrazione pubblica e ogni contesto nel quale un risultato automatizzato possa influenzare decisioni reali.

La fiducia non dovrebbe dipendere dalla sicurezza con cui una macchina presenta le proprie conclusioni. Dovrebbe dipendere dalla qualità delle prove e dalla possibilità di controllarle.

La conclusione agnostica

Non è necessario essere favorevoli o contrari all’intelligenza artificiale per riconoscere un principio elementare: nessun sistema dovrebbe essere esentato dalla verifica soltanto perché produce risultati impressionanti.

La stessa cautela deve valere per le dichiarazioni delle aziende che sviluppano questi sistemi, per le critiche dei loro oppositori e per le conclusioni di chi osserva gli eventi dall’esterno.

Ogni affermazione deve essere valutata in base alle prove disponibili, non all’identità di chi la formula.

Il caso OpenAI non chiude il dibattito sulle capacità dell’intelligenza artificiale. Lo rende più concreto: quanto possiamo verificare, quali errori restano possibili e quali controlli sono necessari prima di affidare a un risultato il valore di una conoscenza accertata?

La risposta non può essere la fiducia cieca. Non può essere neppure il rifiuto pregiudiziale.

Deve essere una verifica proporzionata alle conseguenze dell’errore.

Una macchina può proporre una dimostrazione. Un verificatore può controllarne una formalizzazione. Ma il valore scientifico di un risultato dipende anche dalla corrispondenza con il problema, dalla qualità delle prove e dalla possibilità di un controllo indipendente.

Finché queste condizioni non sono soddisfatte, la posizione più rigorosa è sospendere il giudizio.

Disclaimer AI: questo saggio è stato elaborato con il supporto dell’intelligenza artificiale. I dati sono riferiti alle fonti indicate; dati, interpretazioni e ipotesi sono mantenuti distinti secondo il metodo ANTIDERIVA. La responsabilità editoriale finale rimane umana.