Le Scienze - 04.2020

http://www.lescienze.it Le Scienze 87

ricorda Topol, che aggiunge: «Non ci si può fidare di un algoritmo
quando è in gioco la vita di una persona».
Lo scorso aprile, la FDA ha proposto una serie di linee guida per
gestire gli algoritmi che evolvono nel tempo. Tra queste, l’autori-
tà si aspetta che i produttori seguano il modo in cui i loro algoritmi
evolvono per garantire che continuino a funzionare come previ-
sto, e chiede loro di essere informata in caso di cambiamenti inat-
tesi che potrebbero richiedere una nuova valutazione. Inoltre, l’a-
genzia sta sviluppando una serie di migliori prassi (best practice)
per la produzione e potrebbe chiedere alle aziende di dichiarare le
loro aspettative in merito ai possibili cambiamenti degli algoritmi,
oltre a un protocollo su come gestire questi cambiamenti. Secon-
do Bakul Patel, direttore per la salute digitale della FDA, «dobbia-
mo renderci conto che non possiamo applicare un’unica soluzio-
ne uguale per tutti».

Le macchine sostituiranno i medici?

I limiti dell’IA dovrebbero rassicurare i radiologi preoccupati di
perdere il lavoro a causa delle macchine. Nel 2012, l’investitore Vi-
nod Khosla, cofondatore di Sun Microsystems, ha lasciato a bocca
aperta un pubblico di medici affermando che gli algoritmi avreb-
bero sostituito l’80 per cento dei professionisti sanitari; lo stesso
Khosla ha di recente affermato che i radiologi ancora in attività tra
un decennio «uccideranno i pazienti». Le sue osservazioni hanno
scatenato il panico e una reazione collettiva tra i radiologi, affer-
ma Rao. «Credo che tutta la pubblicità stia generando aspettative».
Queste preoccupazioni, però, hanno avuto conseguenze reali.
Nel 2015, solo l’86 per cento delle posizioni vacanti come radiolo-
go ospedaliero negli Stati Uniti sono state coperte, rispetto al 94
per cento dell’anno precedente, anche se le cifre sono migliorate
negli ultimi anni. Inoltre, secondo un sondaggio del 2018 condot-
to tra 322 studenti di medicina canadesi, il 68 per cento si è detto
convinto che l’IA ridurrà la richiesta di radiologi.
Eppure, sono molti gli esperti e i pro-
duttori di IA che dubitano che questa
tecnologia sostituirà i medici nell’imme-
diato. «Le soluzioni di IA stanno diven-
tando molto efficaci nel fare bene una
cosa», dice Walach, ma poiché la biolo-
gia umana è complessa, «in genere è ne-
cessario l’intervento degli umani, capaci
di fare bene più di una cosa sola». In altre parole, un algoritmo po-
trà anche essere più efficace nel diagnosticare un particolare pro-
blema, ma i risultati ottenuti saranno migliori se uniti all’esperien-
za del medico e alla conoscenza della storia clinica di un paziente.
Un sistema di IA in grado di svolgere un singolo compito po-
trebbe svincolare i radiologi da alcune attività impegnative, con-
cedendo loro più tempo per interagire con i pazienti. «Potrebbe-
ro finalmente uscire dagli oscuri sotterranei in cui lavorano», dice
Topol, affermando che «in medicina abbiamo bisogno di maggio-
re contatto e legami tra le persone».
Rao e altri restano comunque convinti del fatto che gli stru-
menti e la formazione dei radiologi, come anche il loro lavoro
quotidiano, cambieranno drasticamente nei prossimi anni come
conseguenza degli algoritmi di intelligenza artificiale. «L’IA non
sostituirà i radiologi, ma i radiologi che la usano sostituiranno
quelli che non la usano», afferma Curtis Langlotz, radiologo del-
la Stanford University.
Ci sono però eccezioni. Nel 2018 la FDA ha approvato il primo

algoritmo in grado di prendere decisioni mediche senza che un

medico guardi l’immagine. Il programma, sviluppato dalla statu-

nitense IDx Technology di Coralville, analizza le scansioni della

retina per individuare i casi di retinopatia diabetica con una preci-

sione dell’87 per cento, secondo i dati forniti dall’azienda. Michael

Abramoff, CEO di IDx Technology, afferma che la società si assu-

me la responsabilità legale di eventuali errori medici, non essendo

coinvolto alcun medico.

Nel breve termine, è più probabile che gli algoritmi di IA fini-

scano per aiutare i medici invece di sostituirli. Per esempio, i me-

dici impegnati nei paesi in via di sviluppo potrebbero non avere

accesso allo stesso tipo di macchinari che si trovano nei grandi

ospedali di Stati Uniti ed Europa, o a radiologi capaci di interpreta-

re le scansioni. Secondo Lungren, via via che la medicina diventa

più specializzata e dipendente dall’analisi delle immagini, il diva-

rio tra gli standard assistenziali dei paesi più ricchi e quelli dei pa-

esi più poveri sta aumentando. Applicare un algoritmo può essere

una soluzione economica per ridurre il divario e potrebbe essere

fatto anche dal telefono cellulare.

Il gruppo di Lungren sta sviluppando uno strumento che per-

mette ai medici di scattare fotografie di pellicole radiologiche con

un telefono cellulare (non le immagini digitali comunemente in

uso nei paesi più ricchi) e di applicare un algoritmo alle fotogra-

fie che evidenziano problemi come la tubercolosi. «Non vogliamo

sostituirci a nessuno», afferma Lungren; di fatto però in molti pa-

esi in via di sviluppo mancano i radiologi. «Stiamo offrendo stru-

menti ai medici non radiologi aumentando le competenze a loro

disposizione».

Come afferma Rao, un altro obiettivo a breve termine dell’in-

telligenza artificiale potrebbe essere la valutazione delle cartel-

le mediche per valutare la necessità di un paziente di sottoporsi

a un esame. Molti economisti del settore medico ritengono che la

diagnostica per immagini sia usata in modo eccessivo; ogni anno

negli Stati Uniti sono effettutate oltre 80 milioni di TAC. Anche se

questa sovrabbondanza di dati è utile ai ricercatori per addestrare

gli algoritmi, questi esami sono molto costosi e possono esporre i

pazienti a quantità di radiazioni non necessarie. Langlotz aggiun-

ge che un giorno gli algoritmi potrebbero arrivare ad analizzare le

immagini mentre il paziente è ancora all’interno del macchinario

e prevedere gli esiti, riducendo il tempo e l’esposizione alle radia-

zioni necessari per ottenere un’immagine di qualità.

Alla fine, afferma Barzilay, l’intelligenza artificiale sarà utile so-

prattutto quando sarà usata come un alleato di precisione nell’af-

frontare problemi che i medici non sono in grado di rilevare e ri-

solvere da soli. «Se esistesse una via facilmente percorribile e

descrivibile – osserva – gli esseri umani l’avrebbero già percorsa».

Ma lei per prima sa che, troppo spesso, non è questo il caso. Q

Sara Reardon è una giornalista freelance che vive a Bozeman, nel Montana. Ha

lavorato come staff reporter per «Nature», «New Scientist» e «Science» e ha un

master in biologia molecolare.

Sono molti gli esperti e i produttori di intelligenza

artificiale che dubitano che questa

tecnologia sostituirà i medici nell’immediato