Für ihr neues
Buch hat sie
den Roboter Kai
erfunden –
und ihn selbst
gezeichnet
Katharina Zweig, 43, lehrt Sozioinformatik an der TU Kaiserslautern – ein Studiengang mit ZukunftFoto: Roman Pawlowski für DIE ZEITWa s dü r fen
Rechner entscheiden,
Frau Zweig?
Deutschlands wichtigste Informatikerin zieht Algorithmen
zur Rechenschaft – und sie will, dass wir alle es auch können.
Ein Porträt VON STEFAN SCHMITT
D
ie Frau mit den Schaschlik-
spießen lässt ihre Stimme ein
klein wenig tiefer klingen,
um dem Begriff eine ironi-
sche Note zu verleihen. »Sie
sind jetzt meine Support-
Vector-Machine.« Einzelne,
unsichere Lacher aus dem Publikum. Katharina
Zweig nickt bekräftigend und fährt in ihrer natür-
lichen Stimmhöhe fort: »Sehr oft werden Firmen
auf Sie zukommen und Sie mit Fachwörtern zubal-
lern. Support-Vector-Machine ist auch so eines.«
Kurze Pause. »Sie werden jetzt eine KI trainieren.
Mit diesem Schaschlikspieß.«
Zweig – 43 Jahre alt, groß, schwarz gekleidet, die
Brille ins lange Haar geschoben – ist eine ausgezeich-
nete Wissenschaftlerin und gut vernetzte Politik-
beraterin. Ein Sachbuch für Laien hat sie auch gerade
geschrieben. Sie will Nicht-Informatiker mit einem
heiklen Thema erreichen. Deshalb reckt sie an diesem
Nachmittag Ende Mai in einem Berliner Kongress-
hotel ein dünnes Holzstäbchen in die Höhe.
Zweigs Thema: künstliche Intelligenz. Eigent-
lich aber geht es um Ethik in einer Welt, in der
Maschinen Entscheidungen treffen. Ihr Publikum
an diesem Tag: Betriebsräte. Sie kommen von
Chemieunternehmen, Klinikketten, Logistikdienst-
leistern und Autozulieferern. Es sind Arbeitneh-
mervertreter, die vielleicht schon bald Betriebsver-
einbarungen aushandeln müssen, in denen es um
KI bei der Personalauswahl geht.
Künstliche Intelligenz also, geronnen zu dem
zweibuchstabigen Heils- und Schreckenskürzel KI.
»Wenn man immer nur abstrakt über KI spricht,
kann man nicht verstehen, wie da die Ethik rein-
kommt«, ruft Zweig den Betriebsräten zu. »Wir
müssen zusammen in den Maschinenraum.« Des-
wegen die Spieße. Auf jedem Platz liegt ein Brief-
umschlag mit einem Holzstäbchen, zwei Klebe-
streifen und einem Heftchen. Im Heftchen sind
rote und grüne Gesichter in einem Raster verteilt.
Grün steht für erfolgreiche Arbeitnehmer, Rot für
weniger erfolgreiche. »Legen Sie jetzt den Holz-
spieß so zwischen die Smileys, dass die Roten mög-
lichst gut von den Grünen getrennt sind!« Dasselbe
wird Zweig auch Anfang September in Hamburg
sagen, wenn sie vor Beratern und deren Kunden
spricht. Genauso Ende September beim Heidel-
berg Laureate Forum. Auch bei der Jahrestagung
der Deutschen Forschungsgemeinschaft in Rostock,
wo Zweig im Juli den Communicator-Preis erhielt
- eine Auszeichnung für engagierte Wissenschafts-
kommunikation –, hatte sie Stäbchen dabei.
Die Mitmach-Einlage birgt zwei einfache Bot-
schaften: erstens, dass hinter einem grandiosen
Fachbegriff etwas Simples stecken kann. So ist eine
Support-Vector-Machine kein komplizierter Apparat,
sondern einfach ein mathematisches Verfahren, um
eine Datenmenge (hier: eine Punktewolke) so zu
teilen, dass möglichst saubere Teilmengen entstehen
(hier: Rot und Grün). Den zweiten Lerneffekt hat
sie mit der Verteilung der Smileys im Raster angelegt.
»Das ist jetzt unfair.« Egal, wie man es versuche, die
Roten ließen sich nicht sauber von den Grünen
trennen. So sei das im Leben ja auch meistens.
Damit aber muss eine Software umgehen, die Ent-
scheidungen trifft. Die Betriebsräte in Berlin fragt
Zweig: Was soll ein Algorithmus tun, der automatisch
Bewerbungsunterlagen sichtet, um Einladungen oder
Absagen auszusprechen? Wie also soll ein Computer
den geraden Strich ziehen, den das Holzstäbchen
symbolisiert? Antwort der Informatik-Professorin:
»Das kann Ihnen kein Informatiker sagen. Das ist
eine Frage der Unternehmenskultur.« Ist das jetzt
noch IT, oder ist es schon Sozialkunde?
Den Brückenschlag zwischen Computeringenieur-
wesen und Gesellschaft hat Katharina Zweig an der
TU Kaiserslautern in den Studiengang Sozioinfor-
matik gegossen, den ersten dieser Art deutschland-
weit. Ihre Studenten lernen Programmieren genauso
wie die Grundlagen empirischer Sozialforschung und
Psychologie. Ökonomie, Recht und eben Ethik, alles
dabei. »Wenn heute der Begriff Sozioinformatik fällt,
dann muss das mit Katharina Zweig zu tun haben«,
sagt Hannes Federrath, Präsident der Gesellschaft für
Informatik (GI). »Ihr großes Verdienst ist, dass sie
früh erkannt und in die Öffentlichkeit getragen hat,
welchen Diskussionsbedarf das KI-Thema in der
Gesellschaft verursachen wird.« Ihre Vorgängerin als
Communicator-Preisträgerin, die Meeresbiologin
Antje Boetius, sagt über Zweig: »Sie hat eine tolle
Gabe, Komplexität zu decodieren.«
Werden außergewöhnliche Forscher zu öffent-
lichen Intellektuellen, so ist es mittlerweile üblich,
wenn nicht schon ein Klischee, die Kurven und
Brüche des jeweiligen Lebenslaufs zu betonen.
Katharina Zweigs Vita kann man indes auch anders
lesen, als konsequente Diagonalbewegung – aus-
gehend von ihrer allerersten Veröffentlichung.
Die erschien, als sie elf Jahre alt war, im populär-
wissenschaftlichen Magazin Spektrum der Wissen-
schaft. Nina, wie sie sich heute noch selbst nennt,
hatte die Antwort auf ein Rätsel eingesandt. Das sei
irgendeine Rechenaufgabe mit Äpfeln gewesen, er-
innert sich Zweig. Statt ein Ergebnis auszurechnen,
habe sie einen Comic gezeichnet – in dem die Äpfel
zu Kompott verarbeitet wurden. Zeichnen habe ihr
eher gelegen als die Mathematik, sagt sie, jedenfalls
anfangs. Nach der Schule hielt sie sich zunächst ans
apfelhaft Lebendige und studierte Biochemie. Dabei
aber kam sie mit Statistik in Berührung, promo-
vierte in Informatik und übernahm schließlich in
Kaiserslautern den Lehrstuhl für »Graphentheorie
KÜNSTLICHE INTELLIGENZ
Quellen
und Analyse komplexer Netzwerke«. Für ihre »ex-
zellente Lehre« erhielt sie den Ars-Legendi-Preis, die
Gesellschaft für Informatik ernannte sie als »junges,
engagiertes Talent« zum Junior-Fellow, und als Vor-
denkerin wurde sie 2014 als einer von 39 »Digitalen
Köpfen« Deutschlands ausgezeichnet. Sie wird zum
Wissenschaftsrat geladen und ins Kanzleramt.
Zweig bezeichnet sich selbst zuweilen als Data-
Scientist, ein Berufsbild, dem der Harvard Business
Manager zu Beginn des Jahrzehnts das Etikett »sexiest
job of the 21st century« verpasste. Tatsächlich hat sich
Zweig bald nicht mehr nur auf Analyse beschränkt.
Im Jahr 2016 zählte sie zu den Mitgründern des
Berliner Thinktanks AlgorithmWatch, der für Trans-
parenz im Digitalen eintritt. Ihre KaiserslauternerForschungsgruppe benannte sie um, seit drei Jahren
heißt sie Algorithm Accountability Lab; Accoun-
tability heißt Rechenschaft. Klares Signal: Hier wird
Software zur Verantwortung gezogen. Mit einem
ehemaligen Doktoranden und ihrem Mann Win-
fried, einem Pädagogen, hat sie die Firma Trusted AI
gegründet, für die ihre zehnjährige Tochter die
Schaschlikspieße in transparente (!) Umschläge packt,
bevor ihre Mutter zum Vortrag reist.
Das Missverständnis liegt nahe: Hier warne je-
mand öffentlichkeitswirksam vor den heißesten
Trends der eigenen Fachrichtung. Doch Zweig ist
keine Maschinenstürmerin.
Anfang September, in der Hamburger Speicher-
stadt, als Gast der Beratungsfirma Kienbaum,spricht sie darüber, »wie die Ethik in den Rechner
kommt«. 80 verschiedene Bücher habe allein Al-
gorithmWatch katalogisiert, die rieten, was man
mit der neuen Technik tun könne und was man
auf keinen Fall tun solle. »Wir Hamburger würden
sagen, wir haben da so’n richtiges Kuddelmuddel.«
Zwei Debatten liefen da separat. »Die einen finden
alles halb so wild, erst mal machen. Und die an-
deren finden alles ganz schlimm.«
Zweig wählt einen pragmatischen Mittelweg. Es
gehe darum, ob Algorithmen problematisch seien,
weil sie über Menschen entscheiden. Dann müsse
man die Basis der Entscheidungen genau kennen!
Erst recht, wenn es um selbstlernende Systeme gehe.
Entsprechend ermutigt sie ihr Publikum, »die Chan-
cen zu betrachten«. Wie die Ethik in den Rechner
komme? »Über Sie, über mich, über uns.«
Zweig ist keine Warnerin, sondern Aufklärerin,
jemand, der alphabetisieren will. »Dass KI Probleme
machen kann, haben jetzt alle kapiert«, sagt sie. Nun
gehe es darum, dass die Menschen Verständnis für die
Technik und ihre Auswirkungen auf die Gesellschaft
entwickeln. Menschen heißt hier: Nicht-Informatiker.
Für die hat Zweig jetzt ein Buch geschrieben. Auf
seinem quietschgelben Umschlag ranken stilisierte
Leiterbahnen entlang. Klares Si gnal: Technik. Der
türkisfarbene Titel hingegen verspricht etwas anderes.
Ein Algorithmus hat kein Taktgefühl steht da. Und
weiter. »Wo künstliche Intelligenz sich irrt, warum
uns das betrifft und was wir dagegen tun können.«
Dieses Buch ist nicht weniger als wunderbar, man
muss es sich vorstellen wie eine Langversion von
Katharina Zweigs Vorträgen. Die technischen Grund-
lagen werden charmant und nachvollziehbar erklärt.
Zum »Werkzeugkoffer«, den die Autorin im ersten
Teil packt, gehört ein Kapitel über naturwissen-
schaftliche Erkenntnis und ihre Grenzen – ein Stück
Wissenschaftstheorie, das sich liest wie Denkpraxis.
Es folgt ein kompaktes, unterhaltsames Abc der In-
formatik, bevor im dritten Teil die Ethik zum Zug
kommt und Zweigs Leitmotiv »Wie man die Kon-
trolle behält«. Eine Comicfigur begleitet den Leser,
der Roboter Kai (aus KI und AI, englisch für artificial
intelligence). Er ist, wie seine Erfinderin ihn einführt,
»noch ein bisschen schwer von Begriff, wenn es da-
rum geht, den Menschen wirklich zu verstehen«. Kai
und seine Schwierigkeit mit Gefühlen, Normen, ganz
generell mit Unschärfe umzugehen, das ist ein Kunst-
griff. Er, nicht der Leser, muss lernen. Die Technik,
für die er steht, hat das Kompetenzdefizit: Es sind die
Algorithmen, die sich der Gesellschaft anpassen
müssen, nicht umgekehrt.
Wurde Katharina Zweig ihr Erzähltalent in die
Wiege gelegt? Ihr Vater, ein Journalist, berichtete für
den stern aus Äthiopien, Rumänien, Nordkorea. Aber
gewidmet hat sie dieses Buch ihrer Mutter, »die mich
das Lehren lehrte«. Wie das? Sie sei Lehrerin gewesen
und habe ihre Nina den Dreisatz hundertmal er-
klären lassen, erinnert sich diese. »Irgendwann bleibt
dann eben auch etwas hängen.«
Den Kai hat Zweig übrigens selbst gezeichnet,
so wie alle Illustrationen in ihrem Buch. Wer ihr
auf Twitter folgt, wo sie als @nett werkerin unter-
wegs ist, der sieht dort regelmäßig ihre Zeichnun-
gen und Skizzen. Etwa eine Gruppe Kai-ähnlicher
Roboterköpfe, alle unterschiedlich, darunter das
Motto: »Wenn KI nicht divers ist, ist sie un-
ethisch.« Das hat sie gemalt, als sie kürzlich nach
Oxford ans Alan-Turing-Institut fuhr, zur Kon-
ferenz »100+ brilliant women in AI and Ethics«.
Zu denen gehört Zweig, die den Mangel an Frau-
en in Technikdisziplinen beklagt, jetzt auch.
Ein paar Tage später ist Katharina Zweig in
Heidelberg mit dem Vortrag, den sie schon so oft
gehalten hat. Dennoch ist es eine Premiere: »Meine
erste dinner speech« – ein Abendvortrag im feierlichen
Rahmen. Zweig wirkt nervös, bevor sie die Bühne
betritt. Im Publikum sitzen zwei Dutzend »Laurea-
ten«, Träger der renommierten Abel- und Nevanlin-
na-Preise, der Fields-Medaillen und ACM-Awards.
Es sind die Quasinobelpreise der Mathematiker und
Informatiker. Beim Heidelberg Lau reate Forum
treffen diese Heroen auf die vielversprechendsten
Jungforscher ihrer Fächer.
Diesmal hat Zweig kein Beispiel zur Personalaus-
wahl oder aus der Strafverfolgung dabei. Vor den
Laureaten des Heidelberger Forums spricht sie darü-
ber, ob Computer einmal politische Entscheidungen
treffen könnten – und ob sie es sollten. Immerhin
habe doch Facebooks KI-Chef, der Franzose Yann
LeCun, schon davon gesprochen, Computern einen
Kernbestand ethischer Grundsätze zu implantieren.
»Kommt die Zeit, in der eine KI Politiker übertrifft?«,
fragt Zweig. Zwischenruf von Vint Cerf: »That’s a
low bar!« Der da so höhnt, ist Turing-Preisträger, einer
der Urväter des Internets, Amerikaner. »Eine nied-
rige Latte?« Zweig lächelt und zieht zugleich miss-
billigend die Augenbrauchen hoch, in ihrer Stimme
ist der charmante Tadel unüberhörbar: »Hey, hey,
Mister Cerf!«
Es wäre leicht gewesen, stattdessen mit einem
opportunistischen Trump-Witz zu reagieren. Aber
das hätte nicht zu Zweigs Botschaft gepasst. Sie for-
dert von dieser Elite aus Mathematik und Informatik:
»Bitte engagiert euch, beratet eure Politiker!« Und
für ihren nächsten Schaschlikstäbchen-Auftritt hat
sie hier auch etwas gelernt. Anders als Maschinen
neigen selbst die klügsten Menschen zum Schum-
meln. Die »smart guys in the first row«, die Schlau-
meier in der ersten Reihe, hatte sie ermahnen müssen:
»Nicht die Stäbchen biegen!«A http://www.zeit.deeaudioDer Autor hat Katharina Zweig in Berlin,
Hamburg und Heidelberg begleitet, wo sie vor
Betriebsräten, Beratern und Forschern sprachKatharina Zweigs Vortrag vom Juli bei der
DFG-Jahresversammlung in Rostock als
Online-Video (inklusive Schaschlikspießen)Das Sachbuch der Informatikerin:
»Ein Algorithmus hat kein Taktgefühl«
(Heyne), 320 Seiten, ab 14. OktoberLinks zu diesen und weiteren Quellen
auf ZEIT ONLINE
unter zeit.de/wq/2019-42- OKTOBER 2019 DIE ZEIT No 42 WISSEN 43