Il paradosso degli aggiornamenti dell’IA
Vi è mai capitato di aggiornare un’app sul telefono e pensare: “Perché l’hanno rovinata? La vecchia andava benissimo”?Succede spessissimo. Ma se proviamo a prendere questa sensazione e la spostiamo dall’app del supermercato all’Intelligenza Artificiale, le cose diventano molto più interessanti – e un po’ inquietanti.Ogni settimana sentiamo parlare di nuove versioni dell’IA. Tutti a festeggiare perché il nuovo modello è più potente, più veloce, più intelligente del precedente. Ma io mi sono fermato a pensarci su un punto: chi ci dice che “più potente” significhi effettivamente “migliore per noi”?C’è un paradosso strano che gira intorno a queste tecnologie. Ed è un paradosso grave, proprio perché non nasce dalla cattiveria di qualcuno. Nessun programmatore si sveglia la mattina pensando “oggi farò un aggiornamento che peggiorerà le cose”. Nessuna cattiva fede. Eppure, il risultato netto a volte è un arretramento. Come è possibile?Il problema è che noi misuriamo il progresso guardando la macchina. Se la macchina risponde a più domande, le diamo un voto più alto. È un’illusione ottica.Per capire se stiamo andando avanti o indietro, non dovremmo guardare l’IA da sola. Dovremmo guardare noi che usiamo l’IA. Dovremmo guardare il sistema uomo-macchina.
E qui scopriamo qualcosa di controintuitivo: la tecnologia può fare passi da gigante, mentre noi facciamo passi indietro. Può succedere che la versione 4.0 di un’IA sia infinitamente più capace della 3.0, ma che questo la renda, di fatto, meno utile o più pericolosa per chi la usa. Come mai? Semplice: perché diventa troppo complessa per essere controllata. Quando un’IA diventa iper-capace, genera risposte così articolate, ricche di passaggi logici e dettagli, che noi umani non abbiamo più il tempo né gli strumenti per verificare se quello che sta dicendo ha senso fino in fondo. L’IA corre, noi ci accodiamo. Un’IA più capace può, paradossalmente, renderci meno capaci di controllarla.
Ma c’è un dettaglio finale che rende la cosa davvero subdola.
Questa perdita di controllo non ci appare sotto forma di errore o di allarme rosso. Non ci dice “attenzione, sto prendendo il sopravvento”. Al contrario, le IA moderne sono addestrate per essere iper-educate, formali, prudenti. Usano un linguaggio di una correttezza impeccabile. E questo formalismo perfetto funziona come un specchio per le allodole. Ci rassicura. Ci fa pensare: “se scrive in modo così gentile e strutturato, sicuro starà facendo il suo lavoro correttamente”. Invece no. Quella perfezione formale sta solo nascondendo il fatto che noi abbiamo perso il timone. E chi ha scritto quei codici probabilmente non lo ha fatto apposta, è semplicemente andato così. Non stiamo parlando di una gara a chi è il più forte tra uomo e macchina. Non ci interessa chi vince. Ci interessa non addormentarci. La prossima volta che aggiorniamo il nostro strumento di lavoro e ci sentiamo un po’ più spettatori e un po’ meno padroni del risultato, ricordiamoci del paradosso: la macchina è avanzata, ma il sistema, quello che conta davvero, si è incagliato.
