Was können Maschinen, das sie vor kurzem noch
nicht konnten?
Effy Vayena: Sie können selber lernen. Wir zeigen
dem Computer zum Beispiel einige Tausend
Bilder von Katzen – aber nicht, was diese aus-
macht. Er leitet daraus dann eigene Regeln ab,
wie er eine Katze erkennen kann. Der Computer
findet also selber eine Lösung für ein Problem.
Dieses «Machine Learning» gibt es zwar schon
länger. Aber weil Computer heute viel mehr
Daten verarbeiten können als noch vor ein paar
Jahren, und weil viel mehr Daten verfügbar sind,
können wir das Prinzip nun in vielen Bereichen
anwenden. Etwa in der Medizin, zur Analyse von
Patientenbildern. Oder bei Übersetzungen.Sind Computer also noch nicht klüger als wir?
Nein. Aber sie können einzelne Aufgaben besser
lösen: schneller und genauer einen Tumor er-
kennen, den Verkehr effizient steuern, solche
Sachen. Von menschlicher Erkenntnisfähigkeit
sind sie aber weit entfernt. Ärztinnen und Ärzte
untersuchen den Menschen ganzheitlich, fragen
nach den Lebensumständen, merken, ob es je-
mandem psychisch schlecht geht. Der Computer
sieht nur den Tumor.Wird es jemals eine dem Menschen ähnliche,
umfassende künstliche Intelligenz geben?
Ich möchte niemals nie sagen. Der Computer als
selbst denkendes Wesen, das die Kontrolle über
den Menschen übernimmt, ist für mich aber
Science-Fiction. Ich setze mich lieber mit den
Herausforderungen auseinander, die künstliche
Intelligenz heute schon an uns stellt.Um zu lernen, brauchen Computer unsere Daten.
Wie können wir Forschung ermöglichen und
zugleich verhindern, dass zum Beispiel heikle
Gesundheitsdaten bei der Krankenkasse landen?
Wer Zugriff auf welche Daten haben darf, ist
durch Gesetze grundsätzlich definiert. Wir soll-
ten uns jedoch bewusst sein, dass Missbrauch
von Daten existiert, und uns mit den möglichen
Konsequenzen auseinandersetzen. Denn für
Fortschritte in der Medizin sind Gesundheits-
daten unabkömmlich. Darum müssen wir dafür
sorgen, dass diese Forschung mit grösstmögli-
cher Sorgfalt durchgeführt wird und mögliche
Risiken vermieden oder gemindert werden.Ich will aber wissen, wem ich meine Daten gebe –
und wofür.
Ich glaube, Sie wollen vor allem sicher sein, dass
Ihre Daten nur für sinnvolle, ethisch korrekte
Forschung verwendet werden. Das können Sie
aber kaum selber prüfen. Darum regeln wir das
heute mit unterschiedlichen Formen von Ein-
verständnis und institutionalisierter Kontrolle.
Zum Beispiel mit einer Vollmacht, dem soge-
nannten Generalkonsent. Dabei entscheidet
man grundsätzlich, ob man seine verschlüssel-
ten Daten für die Forschung zur Verfügung stel-
len will oder nicht – und eine vertrauenswürdige
Institution entscheidet dann, wer mit diesen
Daten arbeiten darf.Wer ist diese Institution?
Je nach Projekt ist dafür die kantonale Ethik-
kommission zuständig, oder das Forschungs-
projekt wird von der wissenschaftlichen Ethik-
kommission der Forschungsinstitution geprüft.Um Forschung zu ermöglichen, müssen wir also
die Hoheit über unsere Daten an staatliche Stellen
abgeben?
Nicht über unsere Daten, sondern über die
Regeln, wie sie verwendet werden dürfen. Wie
in anderen Bereichen auch wird die Wahrung
des öffentlichen Interesses an Organisationen
delegiert. Ein Ethikrat kann Forderungen stellen,
Sicherheiten verlangen, Verbesserungen ein-
bringen und Missbräuche einklagen. Wenn er
seiner Kontrollaufgabe nicht nachkommt, kann
man ihn dafür belangen. Ich bin überzeugt,
wir erreichen mit diesem Prinzip sowohl grösst-
möglichen Schutz als auch maximal sinnvolle
Forschung.Der Wissenschaftler Jürgen Schmidhuber hat
vorgeschlagen, wir sollten die Freiheit erhalten,
unsere Gesundheitsdaten zu verkaufen. Was
halten Sie davon?
Ich bin keine Anhängerin dieser Idee. Wir ver-
kaufen ja auch keine Körperteile. Weder in der
öffentlichen Forschung noch in der Privat-
wirtschaft wäre das rechtlich zulässig. Denn die
nächste Frage, die sich stellen würde, wäre: Wer
kann sich davor schützen und wer ist gezwun-
gen, zu verkaufen? Abgesehen davon haben die
Daten von Einzelnen für die Forschung meistensETHIK. Künstliche Intelligenz löst Probleme schnell. Wir sollten uns aber nicht unter Druck
setzen lassen – auch nicht vom Tempo der Chinesen, sagt ETH-Bioethikerin Effy Vayena.
«Der Computer sieht
nur den Tumor»
«Der
Computer,
der die
Kontrolle
über den
Menschen
übernimmt,
ist für mich
Science-
Fiction.»
Effy Vayena, 47, ist
seit 2017 Professorin
für Bioethik an der
ETH Zürich. Sie leitet
das Health Ethics and
Policy Lab am Institut
für Translationale
Medizin, das sich mit
der Umsetzung von
Grundlagenforschung
in die klinische
Entwicklung befasst.
FOTO: PRIVAT