http://www.lescienze.it Le Scienze 39
metodi di apprendimento la rete riesce a rispondere a indicazio-
ni più vaghe o addirittura a discernere le categorie in autonomia.
Una rete neurale può classificare immagini che non ha mai vi-
sto prima. I teorici non sono ancora sicuri di come ci riesca, ma un
fattore importante è che gli esseri umani che la usano devono tolle-
rare errori o addirittura introdurne deliberatamente. Una rete che
classifica correttamente il primo gruppo di immagini che riceve
potrebbe lavorare male, basando il giudizio su indicazioni inaffida-
bili e variazioni invece che sulle caratteristiche essenziali.
Questa capacità delle reti di modellare se stesse significa che
possono risolvere problemi che i progettisti umani non sanno co-
me risolvere. Incluso come rendere le reti ancora migliori.
Il meta-livello
Spesso gli insegnanti lamentano che gli studenti dimenticano
tutto in estate. Per ridurre, in un certo senso, la durata delle vacan-
ze, caricano gli studenti di compiti. Ma gli psicologi, come Robert
Bjork, dell’Università della California a Los Angeles, hanno sco-
perto che dimenticare non è dannoso per l’apprendimento, è es-
senziale. Lo stesso principio si applica anche per l’apprendimento
automatico (machine learning).
Se una macchina impara un compito e poi lo dimentica, poi ne
impara un altro e lo dimentica, e avanti così, è possibile insegnar-
le a individuare le caratteristiche comuni ai vari compiti e in se-
guito apprenderà più in fretta le nuove varianti. Non avrà impa-
rato niente di specifico, ma avrà appreso come imparare, quello
che si definisce meta-apprendimento, e quando si vorrà che impa-
ri informazioni precise sarà pronta. «Quando hai imparato a fare
1000 compiti, il 1001 è molto più facile», dice Sanjeev Arora, teo-
rico dell’apprendimento automatico alla Princeton University. È il
dimenticare che permette di passare dall’apprendimento al meta-
apprendimento. Se non si dimentica nulla, i compiti si confondo-
no tra loro e la macchina non ne vede la struttura generale.
Il meta-apprendimento dà alle macchine un po’ della nostra
flessibilità mentale. «Probabilmente sarà un elemento chiave per
raggiungere un’IA che funzioni al livello di un’intelligenza uma-
na», afferma Jane Wang, neuroscienziata computazionale a Deep-
Mind, di Google, a Londra. Viceversa, Wang ritiene che il meta-ap-
prendimento dei computer aiuterà la scienza a capire quello che
succede nella testa degli esseri umani.
In natura, il massimo esempio di algoritmo di meta-apprendi-
mento è l’evoluzione darwiniana. In un ambiente mutevole, le spe-
cie sono spinte a sviluppare la capacità di apprendere invece di
affidarsi a istinti fissi. Negli anni ottanta i ricercatori che studiavano
l’IA hanno usato un’evoluzione simulata per ottimizzare gli agenti
software per l’apprendimento. Ma l’evoluzione è una ricerca casua-
le che esplora un numero indefinito di vicoli ciechi, e nei primi anni
duemila i ricercatori hanno trovato metodi più sistematici e più ra-
pidi. Con il giusto regime di allenamento, qualsiasi rete neurale può
apprendere a imparare. Come avviene per molte altre cose nell’ap-
prendimento automatico, l’importante è essere precisi nell’indica-
re gli obiettivi. Se vogliamo che una rete impari a riconoscere vol-
ti, dovremo presentarle volti. Per analogia, se vogliamo che impari
come apprendere, dovremo presentarle esercizi di apprendimento.
Risultato: capacità di generare un’immagine convincente di un gatto
Al discriminatore
si propongono
casualmente
immagini vere
o false di gatti
Addestramento
Il discriminatore valuta
se l’immagine sia vera
o meno. Se non lo è,
che cosa la rende non
vera? La risposta è
restituita al generatore.
Vero
Falso
Immagine falsa
di un gatto
Distorsione
Discriminatore
Generatore
Input: distorsione casuale
e una classe
Gatto
Risultato: capacità di isolare e ricostruire gli elementi
Addestramento
Input: elementi primitivi con variabili multiple
Si allarga gradualmente il collo di bottiglia
Illustrazione di Brown Bird Design
Disentanglement
Una macchina può imparare a suddividere una scena negli oggetti che
la compongono. Una rete comprime i dati in ingresso, l’altra li espande di
nuovo. Riducendo il canale di collegamento tra le due, il sistema è obbligato
a trovare la descrizione più economica; di solito si tratta della stessa
descrizione che userebbe un essere umano, perciò il funzionamento del
sistema è più trasparente.
Reti antagoniste generative
Una rete capace di classificare le immagini si può far girare in senso contrario
per generare immagini nuove, per esempio di gatti mai esistiti ma che sembrano
veri. I ricercatori addestrano questa rete «generativa» abbinandola a un normale
classificatore, che fa da critico e da allenatore. Nel sistema si introducono
distorsioni casuali per garantire che ogni nuovo gatto sia diverso dagli altri.
