46 Le Scienze 6 20 aprile 2020
Illustrazione di Gérard Dubois
Prousttra le macchineCOSCIENZAIn pochi decenni i computer potrebbero avvicinarsi a un livello diintelligenza umano. Ma saranno capaci di esperienze coscienti?di Christof KochS
ta arrivando a grandi passi un futuro in cui la ca-
pacità di pensiero dei computer si avvicinerà al-
la nostra. Sentiamo sul collo il fiato di algoritmi
di machine learning sempre più potenti. Un pro-
gresso rapido nei prossimi decenni porterà a
macchine con intelligenza di livello umano, ca-
paci di parlare e ragionare, che offriranno contri-
buti all’economia, alla politica e, inevitabilmente, alle tecnologie
belliche. La nascita di una vera intelligenza artificiale (IA) avrà ef-
fetti profondi sul futuro dell’umanità, e sull’esistenza stessa del no-
stro futuro. Per un esempio pratico si vedano le citazioni seguenti.
«Dall’epoca in cui si realizzò l’ultima grande svolta nell’intelli-
genza artificiale alla fine degli anni quaranta, gli scienziati di tut-
to il mondo cercano modi di sfruttare questa “intelligenza artificia-
le” per far avanzare la tecnologia oltre il punto che oggi possono
raggiungere i più sofisticati programmi di intelligenza artificiale».
«Anche oggi la ricerca va avanti per capire meglio che cosa
potranno fare i nuovi programmi di IA, rimanendo entro i limiti
dell’intelligenza disponibili. La maggior parte dei programmi di IA
programmati al momento è limitata a decisioni semplici o a opera-
zioni semplici su quantità relativamente piccole di dati».
Questi due paragrafi sono stati scritti da GPT-2, un bot linguisti-
co che ho usato nell’estate 2018. Sviluppato da OpenAI, un istitu-
to di San Francisco che promuove l’IA benefica, GPT-2 è un algo-
ritmo di machine learning con un compito a prima vista stupido:
quando gli viene presentato l’inizio arbitrario di un testo di par-
tenza, deve prevedere la parola successiva. La rete non impara a
«comprendere» la prosa in senso umano, ma durante la fase di ad-
destramento mette a punto le connessioni interne delle sue re-
ti neurali simulate per anticipare al meglio la parola successiva,
poi quella ancora dopo, e così via. Addestrato su 8 milioni di pagi-
ne web, contiene al suo interno più di un miliardo di connessioni
che emulano le sinapsi, cioè i collegamenti tra i neuroni. Quando
ho inserito le prime frasi dell’articolo che state leggendo, l’algo-
ritmo ha rigurgitato due paragrafi che sembravano scritti da uno
studente del primo anno che cerca di ricordare il succo di una le-
zione introduttiva sull’apprendimento automatico che ha segui-
to distrattamente mentre sognava a occhi aperti. Il testo di arrivo
contiene tutte le parole e le frasi giuste: non si può dire che sia un
brutto risultato. Inserendo lo stesso testo di partenza una seconda
volta, l’algoritmo crea un testo di arrivo diverso.
I discendenti di bot del genere daranno il via a una grande on-
data di notizie e recensioni deep fake che andranno ad aggiunger-
si ai miasmi di Internet. Saranno un ulteriore esempio di program-
mi in grado di fare cose che prima si ritenevano un’esclusiva degli
esseri umani, come giocare al gioco di strategia in tempo reale
StarCraft, tradurre testi, dare consigli personalizzati su libri e film
o riconoscere le persone che appaiono in fotografie e video.
Il machine learning dovrà fare molti altri progressi prima che
un algoritmo possa scrivere un capolavoro coerente come Alla ri-
cerca del tempo perduto di Marcel Proust, ma nel codice il destino
è tracciato. Ricordiamo che i primi tentativi di insegnare ai com-
puter a giocare, tradurre o parlare erano goffi e facili da sminuire
perché era evidente quanto i risultati fossero scarsi e poco raffina-
ti. Ma con l’invenzione delle reti neurali profonde e le massicce in-
frastrutture computazionali dell’industria informatica i computer
sono migliorati, fino a un punto in cui i risultati non sono più sem-
brati risibili. Come si è visto con il go, gli scacchi e il poker, gli algo-
ritmi ora possono avere la meglio sugli esseri umani, e quando ac-
cade le nostre risate iniziali si trasformano in costernazione. Siamo
forse come l’apprendista stregone di Goethe, abbiamo risvegliato
spiriti utili che però non siamo capaci di controllare?Coscienza artificiale?
Anche se gli esperti non concordano su che cosa esattamente
costituisca l’intelligenza, naturale o meno, gran parte di loro ac-
cetta il fatto che prima o poi i computer raggiungeranno quella
che nel linguaggio di settore è chiamata intelligenza artificiale ge-
nerale (AGI, da artificial general intelligence). L’attenzione sull’in-
telligenza delle macchine mette in ombra domande di tutt’altro
genere: si proverà qualcosa a essere una AGI? I computer pro-
grammabili potranno mai avere una coscienza?
Per «coscienza» e «sensazione soggettiva» intendo la qualità
inerente a ogni singola esperienza, per esempio il sapore delizioso
della Nutella, la fitta lancinante di un’infezione a un dente, il tem-
po che passa lento quando ci si annoia, o ancora il senso di vitalità