L’algoritmo non conosce il futuro. Ed è forse proprio questo il punto.

Intervista a Romain Cosson, assistant Professor e Faculty Fellow in Computer Science al Courant Institute of Mathematical Sciences della New York University.

Romain è un giovane dal sorriso contagioso: il suo entusiasmo si percepisce mentre parla e le sue spiegazioni, semplici e profonde, sono state capaci di far comprendere i suoi studi anche ad una mente “non matematica” come la mia.

Lo incontro all’ICTP di Trieste, durante Youth in High-Dimensions, una conferenza dedicata alle frontiere teoriche del machine learning, della statistica e dell’inferenza. Intorno a noi le persone entrano, escono, si mettono d’accordo per il pranzo. Qualcuno propone un ristorante sul mare. Io guardo l’orologio e gli prometto che cercheremo di essere veloci. Ma quando Romain comincia a spiegare che cosa studia, il tempo cambia "consistenza".

«So, I study algorithms», esordisce.

Gli algoritmi. Una parola che oggi sembra appartenere soprattutto all’intelligenza artificiale, ai social network, alle raccomandazioni di Netflix o alle decisioni invisibili delle piattaforme. Romain, invece, parte da molto più lontano.

Gli algoritmi, spiega, esistono da ben prima dei computer: anche il metodo che abbiamo imparato a scuola per moltiplicare due numeri, scrivendoli uno sopra l’altro e procedendo cifra per cifra, è un algoritmo. Lo è ogni sequenza ordinata di istruzioni che permette di risolvere un problema.

Per farmelo visualizzare usa un’immagine, direi, domestica:

«It’s really much like a recipe, like a cooking recipe. The recipe is designed by the human, who is the chef, and then you have the machine that is going to execute the recipe».

L’algoritmo è una ricetta. L’essere umano è ancora lo chef, il computer l'esecutore.

Ancora, sottolinea Romain: perché in futuro potrebbe accadere che l’intelligenza artificiale cominci a progettare autonomamente nuovi algoritmi e, attraverso quella che viene chiamata recursive self-improvement, a migliorare progressivamente sé stessa. Ma non siamo ancora lì: oggi, precisa, gli algoritmi continuano a essere in larga parte inventati dagli esseri umani.

Decidere mentre il futuro deve ancora accadere

Romain Cosson si occupa in particolare di online algorithms: il termine “online”, in questo caso, non ha a che fare con Internet. Indica algoritmi che ricevono le informazioni un po’ alla volta e devono decidere mentre gli eventi stanno ancora accadendo.

Non possiedono il quadro completo. Non conoscono il futuro. Un po’ come noi!

Per spiegarmelo, Romain ricorre allo ski rental problem, un classico della teoria degli algoritmi. Immaginiamo di andare a sciare senza sapere quante giornate di bel tempo ci saranno: conviene comprare ogni volta il giornaliero oppure acquistare l’abbonamento per tutta la vacanza? La scelta ideale potrebbe diventare evidente soltanto a stagione conclusa, quando ormai è troppo tardi.

Oppure immaginiamo di produrre gelati: è meglio continuare ad acquistare il prodotto giorno per giorno o comprare una macchina per fabbricarlo? Dipende dalla domanda futura, che però non conosciamo.

È qui che compare una parola sorprendentemente umana: regret, rimpianto.

L’obiettivo di questi algoritmi non è prevedere perfettamente il futuro, perché sarebbe impossibile. È prendere decisioni che, guardate a posteriori, non si rivelino di troppo peggiori rispetto alla migliore alternativa possibile.

«It’s not to try to predict the future perfectly, because that’s impossible. It’s to be in a position, at the end of the sequence of decisions, where your regret is not too large».

Non eliminare il rimpianto, quindi, ma contenerlo: evitare di arrivare alla fine e scoprire che un’altra scelta ci avrebbe portato in una situazione enormemente migliore.

A quel punto non posso trattenermi: gli dico che, più che una teoria informatica, sembra una filosofia di vita. Anche noi esseri umani procediamo così! Decidiamo con informazioni incomplete, sperando che il nostro errore futuro non sia troppo grande.

Romain sorride. L’algoritmo, improvvisamente, non sembra più una formula lontana: assomiglia a chiunque abbia esitato davanti a una scelta senza poter vedere che cosa sarebbe accaduto dopo.

Le macchine funzionano. Ma sappiamo perché?

Durante le giornate dell’ICTP, una domanda ritorna più volte: perché il deep learning funziona così bene? Sappiamo che funziona. Vediamo sistemi capaci di eseguire compiti che, fino a poco tempo fa, si ritenevano fuori dalla portata delle macchine. Ma non possediamo ancora una teoria completa che spieghi perché questi risultati emergano. Anche qui Romain trova un’analogia capace di trasformare una questione astratta in una storia...

All’inizio della rivoluzione industriale esistevano già motori in grado di trasformare il calore in movimento. Gli esseri umani avevano costruito macchine funzionanti, pur senza conoscere pienamente il legame teorico tra il fuoco e il movimento:

«They just saw that heat somehow could be transformed into movement. But why? It seemed like two things of completely different nature».

Prima arrivarono i motori e solo dopo nacque la termodinamica: fu necessario un lungo percorso, da Sadi Carnot a Boltzmann, per comprendere che cosa stesse accadendo dentro quelle macchine. Secondo Romain, oggi ci troviamo in una posizione in parte simile: abbiamo costruito sistemi di intelligenza artificiale dalle capacità impressionanti, mentre la teoria cerca ancora di raggiungere la tecnologia. Non è quindi la prima volta nella storia che l’umanità impara a far funzionare qualcosa prima di averla capita fino in fondo!

Una parte della comunità scientifica riunita a Trieste, proviene proprio dalla fisica statistica, figlia di quella tradizione scientifica: strumenti nati per comprendere il comportamento di moltissime particelle vengono ora utilizzati per studiare reti neurali composte da un numero enorme di parametri.

La macchina corre. La teoria la insegue. Ma senza teoria diventa più difficile prevedere quando il sistema funzionerà, quando fallirà e fino a che punto potremo fidarci dei suoi risultati.

Le macchine prendevano decisioni già prima di ChatGPT

Gli chiedo che cosa significhi davvero che un sistema di intelligenza artificiale “prende una decisione”. Non rischiamo di umanizzare il computer, attribuendogli un pensiero simile al nostro?

Romain distingue due questioni.

La prima riguarda l’automazione delle decisioni, che non è affatto nuova. Da anni il prezzo di un volo viene modificato automaticamente da programmi informatici: nessun essere umano preme un pulsante ogni ora per stabilire quanto dovrà pagare il singolo passeggero. Allo stesso modo, il percorso seguito da un pacco attraverso diversi magazzini è calcolato da un sistema.

«Computers have been taking automated decisions for a long time now».

La novità non è quindi che le macchine decidano, ma che si è ampliato enormemente il territorio delle decisioni che possiamo automatizzare: oggi possiamo chiedere a un modello non soltanto di ottimizzare una consegna, ma di suggerirci quale lavoro scegliere, come affrontare un problema di salute o come comportarci in una relazione. Ed è qui che la domanda diventa meno tecnologica e molto più personale: quali decisioni siamo disposti a delegare?

La linea della fiducia

Romain ammette di tracciare un confine piuttosto netto.

«I draw quite a clear line in the decisions I let the AI take for me, or in the advice I ask the AI».

Dice di attribuire maggiore fiducia ai sistemi quando si confrontano con problemi scientifici o con domande per le quali esistono risposte verificabili. È invece molto più scettico quando si entra nel campo dei consigli generali, delle scelte personali o della felicità. In quei territori non esiste una risposta oggettivamente corretta, non c’è una ground truth, una verità di riferimento con cui confrontare l’output del modello.

L’intelligenza artificiale, inoltre, è straordinariamente capace di argomentare tesi diverse: il modo in cui formuliamo una domanda può condizionare molto la risposta.

«When there is no clear ground truth, then they are just doing something».

“Stanno semplicemente facendo qualcosa”: la frase resta sospesa tra noi, disarmante nella sua semplicità.

Gli chiedo se una lunga relazione con un assistente digitale, alimentata da informazioni personali, possa rendere più affidabili i consigli ricevuti. Un modello che “mi conosce” da tempo sarà più capace di darmi suggerirmenti migliori?

Romain non ne è convinto. Più contesto può certamente cambiare una risposta, spiega, ma non necessariamente renderla migliore. Se nessuno conosce quale sia la decisione giusta, il modello non possiede una verità nascosta alla quale accedere: può costruire una risposta plausibile. Può argomentarla in modo elegante... ma eleganza e verità non sono la stessa cosa.

È forse questo uno dei punti più difficili da accettare: una macchina può parlare con grande sicurezza anche quando si trova in un territorio nel quale la risposta corretta semplicemente non esiste.

La risposta giusta per il motivo sbagliato

Un algoritmo può arrivare alla conclusione corretta seguendo un ragionamento errato?

Sì.

Romain cita i sistemi utilizzati per dimostrare teoremi matematici. Un programma potrebbe produrre la soluzione corretta a un problema, ma accompagnarla con una dimostrazione sbagliata. Come uno studente che scrive il risultato esatto senza essere capace di spiegare il procedimento! Forse il sistema ha eseguito numerose simulazioni e ha intuito empiricamente la risposta; forse ha trovato online una congettura non dimostrata e l’ha trasformata in una certezza; forse ha semplicemente indovinato attraverso una serie di euristiche.

«The solution is four. Why? And he cannot explain why».

I modelli più recenti, osserva, sono migliorati rapidamente e sembrano più capaci di riconoscere alcuni errori. Ma continuano a sbagliare: per questo il controllo umano rimane essenziale.

La speranza e la paura hanno la stessa radice

Alla fine dell’intervista gli pongo le due domande che rivolgo a molti ricercatori: qual è la tua più grande speranza sull’intelligenza artificiale? E qual è la tua paura?

Romain parla naturalmente delle possibilità nella medicina e nella ricerca. Ma sceglie poi una speranza più personale: vorrebbe che le nuove generazioni potessero comprendere il mondo in modo più semplice, profondo e piacevole. L’intelligenza artificiale potrebbe spiegare fenomeni scientifici, storici e geografici con parole accessibili, adattandosi alla persona che ha di fronte.

L'AI potrebbe rendere la conoscenza meno rigida, meno distante, forse meno accademica, senza per questo renderla superficiale. Una conoscenza più dialogica e più “olistica”, dice: non soltanto informazioni osservate dall’esterno, ma concetti realmente compresi in una modalità di apprendimento più partecipativa e personalizzata.

Poi arriva la paura. Ed è l’immagine speculare della speranza:

«My biggest fear is exactly the opposite: that people cease to be curious, cease to want to understand the world, because AI understands it for them».

Che le persone smettano di essere curiose. Che smettano di voler comprendere il mondo, perché una macchina sembra comprenderlo al loro posto...

Non mi colpisce che un ricercatore di algoritmi scelga proprio la curiosità come posta in gioco: non il lavoro, non la competizione geopolitica, non la ribellione delle macchine. La curiosità!

Salutandoci, Romain scherza sul proprio nome: “Romain” significa “romano”. «So you are Italian in the heart», gli dico.

«Exactly», risponde, sorridendo.

E mentre corre verso il pranzo che rischiava di perdere, mi resta una sensazione insolita: per capire gli algoritmi non è sempre necessario partire dalle formule. A volte basta partire da una ricetta, da uno skipass, da una macchina per il gelato. Oppure dal rimpianto di una scelta e dalla speranza, molto umana, di continuare ad essere curiosi.

Articolo di Chiara Meriani, elaborato con il supporto di ChatGPT a partire da appunti, slide, fotografie e interviste raccolti personalmente dall’autrice durante l’evento.