http://www.lescienze.it Le Scienze 85
L’assenza di collegamento tra il modo di ragionare dei compu-
ter e quello degli esseri umani è chiamato «problema della scatola
nera (black box)», riferendosi al fatto che il cervello di un computer
opera in uno spazio oscuro, inaccessibile alle persone. Gli esper-
ti hanno opinioni diverse sull’eventualità che questo rappresenti
un problema per la diagnostica per immagini. Da una parte, se un
algoritmo migliora regolarmente la salute dei pazienti e le presta-
zioni dei medici, questi ultimi non avranno bisogno di sapere co-
me funziona. Dopo tutto, anche gli stessi ricercatori non capiscono
fino in fondo i meccanismi di molti farmaci come il litio, usato per
curare la depressione dagli anni cinquanta. «Forse non dovremmo
fissarci così tanto su questo problema, perché il modo in cui le per-
sone lavorano in campo medico è quanto di più vicino possa esiste-
re a una scatola nera», afferma Topol, che aggiunge: «Ci aspettiamo
che le macchine applichino standard più elevati?»
Eppure non si può negare che il problema della scatola nera
presenti un’occasione importante per incomprensioni tra esse-
ri umani e intelligenza artificiale. Per esempio alcuni ricercato-
ri dell’Icahn School of Medicine al Mount Sinai Hospital di New
York sono rimasti profondamente colpiti da una differenza nel-
le prestazioni di un algoritmo di deep learning da loro sviluppato
per identificare i casi di polmonite in radiografie ai polmoni. L’al-
goritmo raggiungeva un livello di accuratezza superiore al 90 per
cento nelle immagini realizzate al Mount Sinai, ma era nettamente
meno preciso con radiografie provenienti da altri centri. Gli scien-
ziati si sono resi conto che, invece di concentrarsi esclusivamente
sulle immagini, l’algoritmo considerava le probabilità di un risul-
tato positivo sulla base di quanto i casi di polmonite fossero fre-
quenti in ogni centro, un comportamento tanto inaspettato quan-
do indesiderato.
Fattori confondenti come questo preoccupano Samuel Fin-
layson, studioso delle applicazioni biomediche del machine lear-
ning dell’Harvard Medical School. Finlayson osserva che gli insie-
mi di dati su cui l’IA viene addestrata possono essere condizionati
in modi che sfuggono ai ricercatori. Per esempio, un’immagine
prodotta in pronto soccorso o nel mezzo della notte potrebbe ave-
re una maggiore probabilità di mostrare una persona malata ri-
spetto a un esame effettuato durante una procedura di routine.
Un algoritmo potrebbe anche tenere conto di eventuali cicatrici
o dispositivi medici impiantati che suggerirebbero un precedente
problema di salute e stabilire che le persone senza questi indicato-
ri non soffrano della malattia. Anche il modo in cui i vari centri eti-
chettano le proprie immagini può confondere un algoritmo di IA e
impedire al modello di funzionare efficacemente in un centro con
un diverso sistema di etichettatura. «Se un algoritmo è creato sul-12 anni, rispetto al 4 per cento nel gruppo a basso rischio. L’algo-
ritmo non aveva informazioni su chi fosse morto o sulla causa del
decesso. Lo scienziato che ha diretto lo studio, il radiologo Micha-
el Lu, del Massachusetts General Hospital, sostiene che l’algorit-
mo potrebbe essere utile nel valutare la salute di un paziente se
abbinato alla valutazione di un medico e ad altre informazioni, co-
me quelle genetiche.
Per capire il funzionamento dell’algoritmo, i ricercatori hanno
identificato le parti delle immagini che ha usato per i calcoli. Alcu-
ne, come la circonferenza addominale e la struttura dei seni fem-
minili, avevano un senso, perché queste zone possono indicare
fattori di rischio noti per determinate malattie. Ma l’algoritmo os-
servava anche la regione sotto le scapole dei pazienti, che non ha
alcuna valenza medica. Secondo Lu, la flessibilità potrebbe essere
utile a prevedere la durata della vita di una persona. Spesso duran-
te una radiografia i pazienti devono abbracciare il macchinario, e
le persone meno in salute che non sono in grado di farlo potreb-
bero adottare una diversa posizione delle spalle. «Sono tutte co-
se a cui non avrei pensato e che potrei non cogliere nell’immedia-
to», afferma Lu.
84la percentuale dei centri radiologici negli Stati Uniti
che usano o prevedono di adottare programmi di IA,
secondo un sondaggio del 2018.