Libri & tempo libero
102 Le Scienze 6 15 novembre 2019
Limiti e potenzialità dell’IA
Gli sviluppi dell’intelligenza artificiale e i suoi impatti sociali ed etici
N
el gennaio 2015 un gruppo molto eterogeneo di esper-
ti – ricercatori nel campo dell’intelligenza artificia-
le (IA), filosofi, psicologi, avvocati – sono stati riuniti a
Porto Rico da Max Tegmark, fisico e cosmologo del Massachusetts
Institute of Technology e fondatore del Future of Life Institute,
con l’intento di discutere come orientare gli sviluppi futuri dell’IA
in una direzione più benefica possibile per l’umanità. Da quell’in-
contro è nata una lettera aperta a cui hanno aderito tra gli altri
Stephen Hawking ed Elon Musk che ha fatto rapidamente il giro
del mondo, attirando come mai prima l’attenzione su rischi e op-
portunità derivanti dall’intelligenza artificiale. Tra i partecipanti
all’incontro c’era anche Francesca Rossi, per anni docente di in-
formatica all’Università di Padova e oggi global leader per l’etica
dell’intelligenza artificiale di IBM negli Stati Uniti, che con questo
libro ha stilato innanzitutto una guida chiara e accessibile all’IA.
Rossi prende in prestito una distinzione resa celebre dallo psi-
cologo cognitivo e premio Nobel per l’economia Daniel Kahne-
man, quella tra pensieri lenti e pensieri veloci. Se il pensiero ve-
loce è quello tipico delle decisioni basate sull’intuizione e le
emozioni, con il pensiero lento ragioniamo in modo conscio pri-
ma di arrivare a una decisione. Pur tenendo bene a mente che cer-
vello umano e macchine sono fondamentalmente diverse, questa
distinzione ci aiuta secondo l’autrice a capire le due modalità con
cui si è sviluppata finora la ricerca nell’IA. Da una parte le tecni-
che che permettono di risolvere problemi seguendo un ragiona-
mento logico e simbolico, con una ricetta precisa – un algoritmo
procedurale – da seguire, e che hanno segnato lo sviluppo dei pri-
mi decenni di questo settore; dall’altra le tecniche emerse più di
recente come il deep learning (apprendimento profondo), meno
precise ma molto più potenti, in cui i ricercatori danno in pasto
all’IA grandi quantità di dati e il sistema è in grado di apprendere
come risolvere problemi anche assai complessi.
In verità, ci ricorda Rossi, più che di intelligenza artificiale sa-
rebbe appropriato parlare di augmented intelligence (intelligenza
aumentata) e cita Garry Kasparov, il campione di scacchi che su-
bì nel 1997 la prima simbolica sconfitta contro l’IA di Deep Blue,
e che da allora è diventato un sostenitore dell’approccio collabo-
rativo, creando tornei di scacchi con giocatori umani affiancati da
computer. L’autrice ricorda anche l’esempio delle diagnosi di can-
cro al seno: uno studio pubblicato nel 2016 ha messo in luce che se
per i migliori medici la percentuale di errore era in media del 3,5
per cento, i sistemi di IA da soli sbagliavano nel 7,5 per cento dei
casi, mentre i dottori coadiuvati dall’IA solo nello 0,5 per cento.
L’utilità del libro è proprio nel far capire le grandi potenzialità e
i limiti reali dei sistemi di IA, ormai molto abili in compiti specifici,
ma ancora facilmente ingannabili per esempio di fronte alla com-
prensione di una frase complessa. Il quadro generale che Rossi di-
segna con grande chiarezza pone le premesse per discutere de-
gli impatti sociali e delle questioni etiche legate all’IA, dall’uso nel
campo degli armamenti ai bias razziali incorporati dai sistemi di ri-
conoscimento facciale o nelle traduzioni, ai cambiamenti nei luo-
ghi di lavoro, alla gestione dei dati personali e all’uso nei tribunali.
Alla domanda del sottotitolo «possiamo fidarci dell’intelligenza
artificiale?» Rossi risponde, con uno spirito di ottimismo raziona-
le, raccontando la varietà di iniziative avviate a livello globale per
stilare principi guida per l’etica dell’IA. E questo libro è un invito
a conoscere, partecipare e sorvegliare, come cittadini, affinché l’e-
voluzione dell’IA sia allineata ai valori umani.
Marco MottaIl confine del futuro
di Francesca Rossi
Feltrinelli, Milano, 2019, pp. 126 (euro 15,00)