Quando l’AI non può sapere
Dalla conoscenza alla verifica: il percorso di ricerca che ha portato PENSAI al Verification Kernel.
Di Salvatore Martino
Una domanda apparentemente impossibile
La ricerca su PENSAI è partita da una domanda semplice solo in apparenza:
è possibile contenere tutta la conoscenza del mondo dentro una sola struttura?
La prima direzione portava naturalmente verso l’informazione, la rappresentazione binaria e le strutture matematiche capaci di rappresentare sequenze infinite.
Ma presto è emerso un problema più importante.
Contenere informazione non significa conoscere.
Un archivio può contenere milioni di documenti senza sapere quali siano corretti. Un’intelligenza artificiale può elaborare una quantità enorme di informazioni senza che questo renda automaticamente vere le sue conclusioni.
La domanda è quindi cambiata.
Non più:
«Come possiamo contenere tutta la conoscenza?»
ma:
«Come possiamo verificare ciò che dichiariamo di sapere?»
La ricerca è iniziata cercando gli errori
Questo passaggio ha modificato anche il metodo di lavoro.
Le prime versioni del modello PENSAI sono state sottoposte a verifiche indipendenti.
Il risultato non è stato una conferma.
Sono emersi errori.
La prima formulazione confondeva, tra le altre cose, rappresentazione e interpretazione, assenza di informazione e impossibilità di decidere, conflitto e ignoranza.
È stata quindi falsificata.
La versione successiva ha separato maggiormente questi livelli, ma le verifiche hanno evidenziato nuovi problemi: la relazione tra evidenza e proposizione non può essere definita in modo universale senza specificare il dominio; l’indipendenza delle fonti deve essere controllabile; inoltre, i limiti della computabilità impediscono di trattare ogni problema semantico come decidibile.
La teoria della computazione ha mostrato da tempo che esistono problemi per i quali non può essere costruito un algoritmo generale capace di fornire sempre una decisione. Il lavoro di Turing sul problema della Entscheidungsproblem rappresenta uno dei riferimenti fondamentali di questa storia.
La falsificazione, in questo caso, non ha concluso la ricerca.
Ha indicato dove correggerla.
Informazione, evidenza e verifica
La nuova architettura parte da una distinzione fondamentale:
informazione ≠ evidenza ≠ verifica ≠ decisione.
Un’informazione può essere utilizzata come evidenza soltanto dopo aver stabilito che cosa rappresenta, da quale fonte proviene e quale relazione possiede con la proposizione che stiamo esaminando.
La verifica richiede quindi una regola.
Nel modello PENSAI questa regola viene indicata con Q.
Senza Q, dire che un’evidenza sostiene una proposizione rischia di essere soltanto un’affermazione.
Serve invece un meccanismo capace di controllare un certificato o un oggetto di prova secondo regole esplicite.
Da qui nasce il concetto di Verification Kernel.
Il Verification Kernel
L’idea è volutamente più modesta di quella di una macchina capace di conoscere tutto.
Il Kernel non deve essere un oracolo.
Deve essere un verificatore.
La struttura proposta è:
INPUT → INTERPRETAZIONE → EVIDENZA → RELAZIONE → VERIFICA → STATO
e, solo successivamente:
STATO → DECISIONE
Il principio è semplice:
L’intelligenza artificiale può proporre. Il Kernel deve verificare.
L’AI può cercare informazioni, formulare ipotesi, produrre argomenti o proporre una possibile soluzione.
Ma il fatto che una macchina abbia prodotto una risposta non costituisce, da solo, una verifica.
Quando due evidenze si contraddicono
Un altro problema è la contraddizione.
Se una fonte sostiene una proposizione e un’altra la nega, non è necessariamente corretto scegliere immediatamente una delle due.
La contraddizione deve essere rappresentata.
La logica di Belnap e Dunn costituisce uno dei riferimenti importanti per la gestione formale di informazione vera, falsa, entrambe o nessuna delle due. Le logiche argomentative hanno inoltre studiato il ragionamento con informazioni inconsistenti senza ricorrere automaticamente all’esplosione della logica classica.
Questo porta a una distinzione essenziale:
conflitto non significa ignoranza.
E neppure:
assenza di prova significa falsità.
Il problema del «non so»
È probabilmente questo il punto più importante.
Un sistema che deve sempre produrre una risposta è incentivato a trasformare l’incertezza in una conclusione.
PENSAI propone invece di rendere il limite esplicito.
Il risultato della verifica può essere, in forma semplificata:
- T — supportato;
- F — confutato;
- B — evidenze in conflitto;
- N — nessun certificato trovato dopo una ricerca completata secondo le regole;
- ? — non determinato entro i limiti disponibili.
La differenza tra N e ? è fondamentale.
Se una ricerca è completa e non trova alcun certificato, abbiamo una situazione.
Se la ricerca è stata interrotta, oppure il problema non è decidibile nel dominio considerato, ne abbiamo un’altra.
Non devono essere confuse.
La conoscenza non è sempre monotona
Esiste poi un altro problema.
Una conclusione può essere ragionevole sulla base delle informazioni disponibili oggi e dover essere modificata domani.
Questo è uno dei problemi studiati dal ragionamento non monotono. Reiter, nel 1980, formalizzò il default reasoning proprio a partire da conclusioni che possono essere modificate o ritirate quando arrivano nuove informazioni.
Anche la teoria dell’argomentazione di Dung affronta formalmente il problema dell’accettabilità degli argomenti e del ragionamento non monotono.
Per PENSAI questo significa che una verifica non deve necessariamente essere considerata eterna.
Deve essere considerata valida rispetto alle evidenze, alle regole e al dominio dichiarati.
La provenienza conta
Dieci documenti non equivalgono necessariamente a dieci fonti indipendenti.
Se dieci articoli ripetono la stessa fonte originaria, abbiamo una catena di riproduzione, non dieci conferme indipendenti.
Per questo il Verification Kernel dovrà tenere traccia della provenienza delle evidenze e delle loro dipendenze.
La domanda non sarà soltanto:
«Quante fonti abbiamo?»
ma:
«Da dove provengono realmente queste fonti?»
Cosa PENSAI non sostiene
A questo punto è necessario essere precisi.
PENSAI non sostiene di aver inventato la logica a quattro valori, il ragionamento non monotono, la teoria della computabilità o i sistemi di verifica.
Questi elementi appartengono alla ricerca scientifica precedente.
La possibile originalità di PENSAI, se verrà dimostrata, riguarda eventualmente la loro integrazione in una specifica architettura di governance della verifica e della decisione.
Questa originalità, però, non è ancora dimostrata.
È una questione aperta che richiede un confronto sistematico con la letteratura scientifica.
Dove siamo arrivati
Il percorso può essere sintetizzato così:
V3 — falsificata.
V4 — falsificata.
V4.1 — validità condizionata, con ulteriori correzioni necessarie.
V5 — proposta del Verification Kernel.
Questa sequenza è importante perché mostra il metodo seguito.
Non abbiamo cercato di proteggere una teoria dagli errori.
Abbiamo cercato gli errori per correggere la teoria.
La domanda finale
Forse la domanda iniziale era formulata nel modo sbagliato.
Non dobbiamo necessariamente costruire una macchina che sappia tutto.
Dobbiamo costruire sistemi capaci di distinguere:
ciò che è verificato,
ciò che è confutato,
ciò che è in conflitto,
ciò che non è stato dimostrato,
e ciò che non può essere determinato entro i limiti disponibili.
La vera affidabilità potrebbe quindi non consistere nella capacità di rispondere sempre.
Potrebbe consistere nella capacità di non dichiarare verificato ciò che non può essere verificato.
È da questa idea che nasce il prossimo passo della ricerca PENSAI:
il Verification Kernel.
Fonti essenziali
Belnap, N. D., A Useful Four-Valued Logic, 1977.
Dung, P. M., On the Acceptability of Arguments and its Fundamental Role in Nonmonotonic Reasoning, Logic Programming and n-Person Games, Artificial Intelligence, 77(2), 321–357, 1995.
Reiter, R., A Logic for Default Reasoning, Artificial Intelligence, 13, 81–132, 1980.
Turing, A. M., On Computable Numbers, with an Application to the Entscheidungsproblem, 1936.
Argumentative Logics: Reasoning with Classically Inconsistent Information, Data & Knowledge Engineering, 16(2), 125–145, 1995.
Disclaimer
Questo articolo è stato elaborato con il supporto dell’intelligenza artificiale. Le idee, le ipotesi e la responsabilità editoriale finale appartengono all’autore. Le fonti scientifiche citate sono utilizzate per documentare i fondamenti teorici richiamati e non costituiscono una dimostrazione dell’originalità dell’architettura PENSAI.
Salvatore Martino
Hyłf Göt!
Views: 2
