Un incontro con Walter Quattrociocchi. Andrea Capocci intervista per il manifesto Walter Quattrociocchi che dirige il Center for data science and complexity for society all’Università Sapienza di Roma. La Commissione europea lo ha inserito tra i sessanta esperti che vigileranno sull’applicazione della direttiva sull’intelligenza artificiale. “Oggi sappiamo cosa c’è dietro la produzione linguistica di un’IA: non un processo di verifica attraverso una struttura cognitiva, ma l’assemblaggio di frasi plausibili“. Quattrociocchi di fronte ai titoli sulle «macchine che pensano» o sulla «coscienza dei robot» invita a un sano scetticismo. Per questo ha coniato il neologismo «epistemia»
*****************************************
Professor Quattrociocchi, cosa significa «epistemia»?
Secondo il test di Turing, l’intelligenza di una macchina è dimostrata se non si può distinguere il suo linguaggio da quello umano. Quell’idea ha alzato molto le aspettative sui Large Language Models (Llm, le intelligenze artificiali come ChatGpt, Gemini o Claude, ndr) ma nasceva da una prospettiva diversa risalente a oltre settanta anni fa. Oggi sappiamo cosa ci sia dietro la produzione linguistica di un’intelligenza artificiale: non è un processo di verifica attraverso una struttura cognitiva, ma un assemblaggio di frasi plausibili. Il problema è che utilizziamo queste interfacce come se fossero motori di ricerca. Se scambio questa produzione linguistica plausibile per «conoscenza», sto saltando il passaggio della verifica. Questo fraintendimento è l’epistemia.
Qual è il rischio di scambiare la produzione di frasi verosimili con la conoscenza?
Negli Llm manca la cosiddetta «metacognizione»: il modello cioè non è in grado di concettualizzare l’errore, l’affidabilità o l’incertezza relative a ciò che esso stesso scrive. Perciò non si possono delegare loro funzioni di una qualche importanza. Oppure, bisogna fornire ulteriori strumenti come avviene con la «Retrieval Augmented Generation», e questo aumenta i costi e sposta la soglia della sostenibilità economica della loro applicazione.
Anche il fisico Giorgio Parisi recentemente l’ha utilizzata come strumento per le sue ricerche. Non è una prova che l’Ai capisce davvero?
Lo studio in cui Parisi ha utilizzato Claude per uno studio di fisica teorica viene spesso citato in questo senso. In realtà, dimostra il contrario: senza l’intervento di un esperto che verifichi il risultato basandosi sulle proprie conoscenze, è impossibile delegare all’Ia il compito cognitivo.
L’Ai però supera test sempre più difficili. Significa che non sono i test giusti?
Molti benchmark (parametri di riferimento standard) su cui viene misurata l’intelligenza artificiale sono costruiti ad arte. Ma l’uso nella realtà è diverso. In campo medico, ad esempio, il compito da svolgere è una diagnosi, che è una questione molto più difficile. Un Llm confonde i risultati ottenuti in benchmark specifici con la capacità di gestire le novità o di dare conto dell’incertezza sulla sua risposta.
Il clamoroso ed esilarante insuccesso di Emma-5, l’intelligenza italiana «sovranista», è una dimostrazione dei limiti di questi strumenti.
È stata un’esperienza istruttiva. Ciò che molti non hanno voluto vedere è che le risposte assurde che dà Emma non sono un errore del sistema, ma il risultato del meccanismo interno comune a tutti gli Llm, che si basano sulla plausibilità delle frasi prodotte e non sulla loro verifica.
Ha scritto una lettera aperta «Per una visione realistica dell’Intelligenza artificiale». A chi è diretta?
Nasce dopo diverse conversazioni con alcuni colleghi che, come me, vedono una rappresentazione distorta della questione. La miccia è stata l’intervista all’Ia pubblicata da Walter Veltroni sul Corriere della Sera: un prodotto letterario ed è stato fuorviante farlo passare per un’esperienza rappresentativa del comportamento dei Large Language Model. Abbiamo pensato che ci sia un vuoto informativo da occupare e abbiamo lanciato un appello agli altri accademici: usciamo dalla torre d’avorio e raccontiamo cosa succede davvero nel mondo dell’Ia.
Chi beneficia della narrazione dominante?
Ne approfittano quattro o cinque aziende Big Tech, che puntano all’adozione su larga scala di uno strumento che non è progettato per i compiti che loro pubblicizzano. E anche chi preferisce credere che questa tecnologia permetta di acquisire competenze senza sforzo, aggirando la fatica necessaria allo studio e all’approfondimento.
Pochi giorni fa la Ford ha annunciato la riassunzione di 350 ingegneri che erano stati sostituiti dall’intelligenza artificiale senza ottenere i risultati sperati…
Significa che questa narrazione alimentata dalle Big Tech inizia a rivoltarglisi contro
il manifesto, 7 luglio 2026