Kann es die Maschine tatsächlich besser?
Das will die EU wissen, wenn es um die Ein-
reise nach Europa geht. Die dafür eingesetzte
Technologie nennt sich iBorderCtrl, entwickelt
hat sie die Luxemburger Firma European
Dynamics. Das Pilotprojekt erhält Geld vom
EU-Forschungsprogramm Horizon 2020, an
dem sich auch die Schweiz beteiligt. Bis Ende
August konnten sich Einreisende an der un-
garischen, griechischen und lettischen EU-
Grenze freiwillig dem Prozedere unterziehen.
Dafür muss man sich zuvor am Computer
registrieren, ein Passbild, das Visum und den
Nachweis ausreichender finanzieller Mittel
hochladen. Dann gilt es, zahlreiche Fragen zu
beantworten, durch die ein virtueller Grenz-
beamter führt, ein Avatar. «Was ist Ihr Vor-
name?», «Was ist der Grund für
Ihre Reise?» Banale Fragen,
scheint es. Doch anders als an
der Grenze wird man während
der Befragung gefilmt. Ein KI-
Programm wertet die Daten sofort
aus. Es analysiert Mikrobewegun-
gen im Gesicht und schätzt ein, ob
der oder die Befragte die Wahrheit
sagt; ein auf Mimik basierender
Lügendetektor. Auch mit Infor-
mationen aus sozialen Medien
könnte iBorderCtrl die Daten an-
reichern. Im Pilotversuch wurde
nach Kritik darauf verzichtet.
Reisende erhalten nach dem
Gespräch einen QR-Code. So sieht
der Grenzbeamte unmittelbar,
ob die Person vertieft kontrolliert
werden muss oder in einem ver-
einfachten Verfahren einreisen
darf. Der definitive Entscheid wird
der KI-Software zurückgemeldet,
damit sie sich verbessern kann.
In einem Vortest soll iBorder-
Ctrl eine Treffsicherheit von 75 Pro-
zent erzielt haben. Allerdings mit
lediglich 34 Versuchspersonen. Wie viele Reise-
willige sich im mehrmonatigen Pilotprojekt
der Software stellten, behält die Firma für sich.
Klage eingereicht. Anfragen des deutschen
Europaabgeordneten Patrick Breyer (Piraten-
partei) hat die EU nicht beantwortet, unter
anderem wegen des «kommerziellen Werts»
der Informationen. Breyer reichte darauf im
März Klage gegen die verantwortliche EU-
Kommission ein. Bei dieser «hochgefährli-
chen Entwicklung» müsse das «Transparenz-
interesse von Wissenschaft und Öffentlichkeit
vor privaten Gewinninteressen» stehen. «Der
Staat muss gegenüber dem Bürger Entscheide
grundsätzlich begründen können, auch wenn
sie von einem KI-System getroffen oder ‹nur›
vorbereitet werden», sagt Nadja Braun Binder,
Professorin für Öffentliches Recht an der Uni
Basel. Das heisse nicht, dass jeder einzelne
Arbeitsschritt, den ein KI-System tätigt, nach-
vollziehbar sein muss. «Für den Betroffenen
müssen aber die Gründe für eine Entschei-
dung zugänglich und erklärbar sein, damit er
Rechtsmittel ergreifen kann.»
Es ist umstritten, ob Bewertungen von
iBorderCtrl je nachvollziehbar sein werden.
Dass die Mimik einer Person Schlüsse auf die
Glaubwürdigkeit ihrer Aussagen zulässt, stel-
len Psychologen aber grundsätzlich in Frage.
Charakterchecks via Stimmanalyse oder
Lügentests über Mikromimik: Der Einsatz von
künstlicher Intelligenz schürt Erwartungen
und wirft Grundsatzfragen bei der Neuvermes-
sung der Menschen auf. Entdeckt der Com pu-
ter dank maschinellem Lernen neue und be-
ständige Muster im menschlichen Verhalten? Aufdatierte Mediziner. Die Patien-
tin musste am Herzen operiert
werden. Für eine Vorbesprechung
besuchte sie im Juli das Herz-
zentrum eines Schweizer Uni-
versitätsspitals. Am Empfang er-
hielt sie ein Formular, das sie
hätte unterschreiben sollen. Sie
tat es nicht, da sie kaum Zeit
hatte, das Dokument zu lesen
oder gar zu verstehen. Eine
Aufklärung fand nicht statt.
Seit Anfang Jahr bitten Uni-
versitätsspitäler alle Patientinnen
und Patienten, einen sogenann-
ten Generalkonsent zu unter-
zeichnen. Das Dokument ist eine
Art Blankocheck, mit dem man
alle bestehenden und künftigen
medizinischen Daten in anony-
misierter Form der Forschung zur
Verfügung stellt. Wissenschaftler,
Pharma- und Medizinalfirmen
setzen grosse Hoffnungen in das
Dokument. Es soll ihnen endlich
mehr Daten zugänglich machen,
die sie für ihre Forschung dringend brauchen.
Um selbstlernende Algorithmen für Bild-
analysen zu trainieren oder für die Entwicklung
personalisierter Medikamente. In der Radio-
logie ist der Einsatz künstlicher Intelligenz
bereits Standard, zum Beispiel für das Erken-
nen von Krebserkrankungen.
Über 80 Prozent der Patienten unterzeich-
nen den Generalkonsent gemäss Schätzun-
gen. Angedacht worden war das Dokument
2015 von der Schweizerischen Akademie der
Medizinischen Wissenschaften. Eine erste
Variante scheiterte aber an Vorbehalten der
Patientenorganisationen und wegen daten-
schützerischer Bedenken. Von der Öffent-
lichkeit kaum wahrgenommen, einigten sich
Anfang Jahr die Universitätsspitäler trotzdem
auf das Dokument. Die Ethikkommissionen
für die Forschung am Menschen (Swissethics)
hatten es zuvor abgesegnet. FOTO: PD | QUELLEN: NDR (IBM 2011), MSM RESEARCH, JOURNAL OF ARTIFICIAL INTELLIGENCE RESEARCH, DER SPIEGEL, BITKOM-RESEARCH-UMFRAGE, BERTELSMANN-STIFTUNG216 000
Watt verbrauchte der
Supercomputer IBM
Watson beim Quizduell
gegen Menschen im Schnitt.
Für das menschliche
Gehirn reichten 20 Watt.
Der Computer siegte
allerdings.100 000
Neuronen können heute
zu künstlichen neuronalen
Netzen gebaut werden,
bald werden es 10 Millionen
sein. Das Gehirn hat über
85 Milliarden Nervenzellen.73
Prozent der Schweizer
Firmen wollen mit künst
licher Intelligenz die Auto
matisierung erhöhen und
Prozesse beschleunigen.62
Prozent der Deutschen
sehen künstliche Intelligenz
eher als Chance. Sie wün
schen sich Unterstützung
für ältere Menschen und
Ärzte – und erhoffen sich
bessere Schiedsrichter.19
Prozent der Befragten
in der EU denken beim
Wort Algorithmus an
«Manipulation», rund
10 Prozent an «beängsti
gend» und «bedrohlich».45
Jahre wird es gemäss
352 befragten Forschern
vermutlich dauern, bis
künstliche Intelligenz den
Menschen in allen Auf
gaben übertrifft. Beim
Fahren eines Lastwagens
soll es schon 2027 so weit
sein, beim Schreiben von
Bestsellern 2049, bei chi
rurgischen Arbeiten 2053.«Wir sollten
uns nicht
der Illusion
hingeben,
die Daten
liessen
keine Rück-
schlüsse
auf einzelne
Patienten
zu.»
Franziska Sprecher,
Gesundheitsjuristin