Ci si può fidare dell’intelligenza artificiale?

Affidabilità e incertezza nella produzione di conoscenza sostenuta dal machine learning.

Abstract della tesi di Chiara Meriani per il Master in Filosofia del Digitale ed Etica dell'AI, Università di Udine

Ci si può fidare dell’intelligenza artificiale? La domanda diventa particolarmente rilevante perché ci confrontiamo con sistemi che producono risultati sempre più efficaci, mentre la ricerca non possiede ancora una teoria generale capace di spiegarne pienamente il funzionamento.

Questa tesi indaga su quali basi costruiamo la fiducia nell’AI e, più in generale, nei processi di produzione della conoscenza nei quali intervengono sistemi di machine learning. Il punto di partenza è lo stato dell’arte della ricerca scientifica. Un primo nucleo prende in esame alcuni lavori sviluppati alla SISSA, con particolare attenzione al gruppo di Sebastian Goldt, e i temi emersi durante la scuola internazionale “Youth in High-Dimensions” dell’ICTP: apprendimento e generalizzazione, errore, memoria, rappresentazioni interne, stabilità dell’addestramento e condizioni di affidabilità dei modelli di machine leraning.

A questo livello tecnico si affianca una riflessione interdisciplinare sulla fiducia, e di necessità anche sull’incertezza, riflessione che prenderà spunto da ambiti quali la filosofia e le neuroscienze, nonché il giornalismo e la conoscenza nella ricerca scientifica. Distinguendo tra fiducia epistemica, relazionale e procedurale, potremo portare la questione dalla semplice domanda “Ci si può fidare dell’Intelligenza Artificiale?” ad un quesito più preciso: “Sappiamo in quali condizioni possiamo fare affidamento su di essa?” Da qui dervia la necessità di prendere in considerazione non solo i risultati, ma il processo.

La tesi seguirà anche il passaggio dalla ricerca al racconto: attraverso l’analisi di lavori scientifici, interviste ai ricercatori ed un questionario esplorativo sulle loro preoccupazioni e speranze legate al mondo dell’AI, si porteranno alcuni esempi di come concetti complessi possano essere trasformati in contenuti divulgativi. Una parte del lavoro documenterà inoltre l’uso di strumenti di intelligenza artificiale nella produzione giornalistica stessa, ricostruendo fonti, prompt, output, verifiche e interventi umani, per rendere osservabile il processo con cui si costruisce e si controlla la produzione di articoli, nel rispetto delle norme dell’AI Act e del codice deontologico dei giornalisti italiani.

Il movimento della tesi sarà quindi progressivo: capire che cosa sappiamo oggi dei sistemi di machine learning; osservare su quali basi gli scienziati si fidano dei loro risultati; interrogare il concetto di fiducia; infine analizzare che cosa accade quando l’Intelligenza Artificiale viene raccontata al pubblico, individuando criteri utili per una divulgazione dell’AI che sia accessibile senza diventare superficiale.

Data di discussione della tesi, prevista per il 19 dicembre 2026.