12 MEINUNG & DEBATTE Dienstag, 8. Oktober 2019
Das Geheimnis der menschenähnlichen Maschine – imKupferstich von Racknitz (1789) bewegt ein kleinwüchsiger Mensch
den «Schachtürken». JOSEPH RACKNITZ / HUMBOLDT-UNIVERSTÄT
Geister in der
Maschine
KünstlicheIntelligenz ist auf Heerscharen
vonschlecht bezahlten Hilfsarbeitern angewiesen.
Das wirft sozialpolitische Fragen auf,
lässt aber auch technische Risiken
sichtbar werden.Von Stefan Betschon
Einer der Ersten, der durch künstliche Intelligenz
(KI) beruflich deklassiert wurde, war Garri Kas-
parow. Der Schachweltmeister musste sich 1997
in einem medial grossaufg emachten Schaukampf
gegen einen Computer namens Deep Blue geschla-
gen geben. Die Niederlage gegen diesen Computer
von IBM beschäftigt Kasparow noch heute. «Ich bin
ein schlechte rVerlierer», schreibt er in dem Buch
«DeepThinking» (2017). Er fühlt sich betrogen. Er
glaubte, bei einem wissenschaftlichen Experiment
mitzuwirken, doch für IBM war das Ganze ein PR-
Gag. Dass IBM nachdem Sieg eineRevanche ab-
lehnte,den Computerrasch verschrottete und
sich weigerte, Kasparow oder anderen Interes-
sierten Einblick in die innereFunktionsweise die-
ser Maschine zugewähren, weckte Zweifelan der
Überlegenheit der künstlichen Intelligenz.
Das KI-Prekariat
Nicht Deep Blue war intelligent, sondern die Men-
schen, die sich diese Maschine ausgedacht hatten.
«Der wahreWettkampf fand nicht zwischen Kas-
pa row und der Maschine statt, sondern zwischen
Kasparow und einemTeam aus Ingenieuren und
Programmierern», schrieb1999 der amerikanische
PhilosophJohn Searle. Deep Blue gebe nur vor,
eine denkende Maschine zu sein. «InWirklichkeit
aber versteckten sich in ihm menschliche Experten
- und zwar in grosser Zahl». Deep Blue wäre somit
nichts weiter als ein elektrifizierter «Schachtürke».
Der Schachtürke war eine Holzpuppe, die im
späten18.Jahrhundert den Zuschauern vorgau-
kelte, denken zukönnen. Siekonnte mit demKopf
wackeln und dieAugen rollen. Die linke Hand be-
wegte Schachfiguren bei Schauwettkämpfen gegen
Menschen. Meistens gewann die Puppe. Dieser
Automat beeindruckte mächtigePolitiker – unter
ihnen Napoleon –, faszinierte bedeutendeWissen-
schafter – CharlesBabbage – und inspirierteKünst-
ler wie Edgar A.Poe. Nachdem ihr letzter Besit-
zer finanziell Schiffbruch erlitten hatte, wurde die
Puppe in Kisten verpackt und eingelagert, bis 1840
einArzt sie für 400 Dollar auslöste, um sie zu unter-
suchen.Das Geheimnis der menschenähnlichen
Maschine: ein doppelter Boden, ein Geheimfach,
das es einem kleinwüchsigen Menschen ermög-
lichte, unerkanntRoboter zu spielen.
Der Schachtürke, dieses seltsame Miteinan-
der eines Maschinenmenschen und einer Mensch-
maschine, ist ein gutes Modell, um sichvon künst-
licher Intelligenz eineVorstellung zu machen.Da-
mit soll nicht gesagt werden,die Leistungen der KI-
Systeme beruhten auf Betrug. Hin gegen schon, dass
gerade auch die neuesten und besten dieser Maschi-
nen auf fortwährende menschliche Unterstützung
angewiesen sind.Viele der jüngstenFortschritte
der KI unter demParadigma des Machine-Lear-
ningverdankensich nicht nur hardware- oder soft-
waretechnischen Innovationen,sondern auch neuen
Möglichkeiten, menschliche Urteilskraftrasch und
billig für den Dienst an den Maschinen aufzubie-
ten. Die KI brauchtWissenschafter und Experten,
sie brauchtaber auch Heerscharen von Hilfsarbei-
tern, die Lernmaterialien zusammenstellen und die
Lernfortschritte derSysteme überwachen.
Diese Hilfsarbeiter erledigenAufgaben, die we-
nig Intelligenz erfordern, aber doch nicht automa-
tisiert werdenkönnen. Sie verfassen Bildlegenden,
übersetzen kurzeTexte, evaluieren Übersetzungen,
verschriftlichengesprochene Sprache, tippen hand-
schriftlich ausgefüllteFormulare ab oder diagnosti-
zier en Krankheitssymptome.
Sie arbeiten allein,ohneArbeitsvertrag. Sie sind
nichtTaglöhner, sondern «Minutenlöhner», denn
die Aufgaben, die ihnen von internetbasiertenVer-
mittlungsplattformen zugewiesen werden, lassen
sich oft sehr schnell erledigen.Ihr Verdienst setzt
sich zusammen ausRappen-Beträgen. Sie sind die
Ges trauchelten der Gig-Economy, die Randstän-
digen des Crowdsourcing. Sie bilden das KI-Preka-
riat. Man nenntsie Mikro-Jobber, Clickworker oder
Crowdworker. Es gibt sie weltweit,in Industriestaa-
ten und auch in Entwicklungsländern.Aber sie blei-
ben unerkannt. Deshalb wird ihreArbeit auch als
«ghost work» beschrieben, als Geisterarbeit.Diese Arbeit ist nicht sichtbar, denn Aussen-
stehendenkommt es so vor, als wäre sie von künst-
lich intelligenten Maschinen ohne menschliches Zu-
tun erledigt worden. In dieser Illusion werden sie
von grossen Software-Firmenbestärkt.Facebook
beschäftigtTausende von Clickworkern, die Hass-
botschaften,Fake-News und pornografischeDar-
stellungen aussortieren müssen. Doch dieTop-
manager vonFacebook tun so , als liessen sich die
Ausscheidungen menschlicherDummheit mathe-
matisch-sauber durch KI herausfiltrieren. Google
präsentierte imFrühling 2018 eine KI-Software, die
selbständig fernmündlichTerminabsprachen treffen
kann.Kürzlich wurde bekannt, dass dieseTelefon-
gespräche, bei denen der Computer sich anhörtwie
ein Mensch, tatsächlich oft von Menschen durch-
geführt werden.Apple, Google und Amazon ver-
kaufen Gadgets, die gesprochene Sprache verstehen
und mit Menschen Gespräche führen können.Da-
mit das funktioniert, beschäftigen sieTausendevon
Clickworkern, die aus derFerne die Dialoge zwi-
schen Mensch und Maschine mitverfolgen.
2001haben Mitarbeiter vonAmazon in den USA
ein «Hybrid machine/human computing arrange-
ment» zumPatent angemeldet. Dieses «Arrange-
ment» ist seit 2005 unter dem Namen Mechanical
Turk oder MTurk bekannt geworden. Der Name
verweist auf den Schachtürken und bezeichnet eine
Internetplattform,die Mikro-Jobs an Mikro-Jobber
verteilt. 2011 behauptete Amazon, der Mechanical
Turk könne auf mehr als 500000«turk workers» in
190 Ländern zurückgreifen.Laut einer 2018 publi-
zierten Studievon Forschern der NewYork Uni-
versity gibt es rund 100000bis 20 0000aktive «tur-
kers», die – so dieResultate einer anderen Studie –
pro Stunde durchschnittlich zwei Dollar verdienen.
Neben Amazons MTurk gibt es heute zahlreiche
weitere solche Plattformen, beispielsweise Click-
worker, Cloudfactory, Crowdflower, Crowdsource
oder Mobileworks. Einige dieser Plattformen haben
sic hauf die Bedürfnisse von bestimmten Branchen
spezialisiert.Viel Arbeit gibt es von derAutoindus-
tri e, die im Hinblickauf das autonome Fahren auf
die Arbeitvon sehrvielen Clickworkern angewie-
sen ist, die aufVideoaufnahmen einzelne Elemente
von Strassenszenen benennen.
Seit Jahrzehnten werden dieAuswirkungen der
Informatik auf den Arbeitsmarkt diskutiert. Dass
die Digitalisierung –oder, wie man frühersagte: die
Automatisierung–Arbeitsplätze vernichten würde,
war dabei unbestritten. Man stellte sich vor, dass es
eine Verlagerung geben würde: GewisseJobs wür-
den vernichtet, andere neu geschaffen;gewisse Be-
rufe würden verschwinden, andere entstünden neu.
Die Frage war, wie viel zusätzlicheArbeit die Com-
puter bringen würden. Jetzt sieht man: Es ist sehr
vielArbeit, aber es ist miserabel bezahlte Hilfsarbeit.
Die Frage war, welche Berufe verschwinden wür-
den,welche sich behauptenkönnten.Jetzt sieht man:Arbeitnehmer werden nicht durchRoboter ersetzt,
sondern durch Heerscharen von Hilfsarbeitern, die
unter derAufsicht vonRobotern kleinsteTeile jener
Arbeit erledigen,die einst einem berufstätigen Men-
schen ermöglichte, Berufsstolz zu empfinden.
Crowdworker, so fordert etwa die Schweizer
GewerkschaftSyndicom, müssten «fair entschädigt
und sozialversichert» werden; es brauche «Zerti-
fizierungssysteme für Crowdwork-Plattformen».
Doch in der neuen Arbeitswelt ist der Arbeits-
kampf schwierig. «Ghost work» ist schwer fassbar,
das KI-Prekariat bleibt unsichtbar, die Lieferketten,
die Clickworker und die für dieArbeitsvorbereitung
zuständigenRoboteraneinanderbinden, umspan-
nen die ganzeWelt.Doppelte Böden ausleuchten
Doch es stellen sich nicht nur schwierige sozialpoli-
tischeFragen. Es gibtauch technische Unwägbar-
keiten.Wie soll die KI das Leben der Menschen ver-
bes sern , wenn sie auf Beiträge angewiesen ist von
Menschen, die unter menschenunwürdigen Bedin-
gungen arbeiten?Wer wird sich als Spitalpatient der
Diagnose einer Software ausliefern, die auf dem
Urteil vonTausenden miserabel bezahlter, namen-
loser Menschen beruht, die inFronarbeit medizi-
nischeSymptome in maschinenlesbarer Form eti-
kett iert haben?Wer wird sich wohl fühlenin einem
aut onom fahrendenAuto, das nur deshalbeine ge-
strichelte von einer durchgehenden Mittellinie zu
unterscheiden weiss, weilTausende von Clickwor-
kern unter Zeitdruck Hunderttausende von Bild-
elementen vermutlich richtig beschrieben haben?
Es gibt viele Hinweise darauf, dass clevere Click-
worker Methoden gesucht und gefunden haben,
mit denen sie dieRoboter, die ihre Arbeitkoor-
dinie ren, tä uschenkönnen. Sie haben die Mikro-
Jobs, die ihnen zugewiesen wurden, aufgeteilt und
an weitere, noch schlechter bezahlte Mikro-Jobber
weitergegeben; sie nutzen im Internet verfügbare
KI-Software – etwa für die automatische Sprach-
übersetzung –, um beispielsweise den Output von
Übersetzungssoftware ohne eigene Denkarbeit zu
evaluieren; siehaben Programme entwickelt, um
Clickwork ohne menschliches Zutun zu erledigen.
Auch ohne Geisterarbeiter sind die Leistungen
von KI-Systemen schwer zu bewerten.Durch Pr o-
zesse des Machine-Learning entstanden,gep rägt
durch einkomplexes Zusammenspiel von Algo-
rithmen und Metaalgorithmen,vonTrainingsdaten
und statistischenAuswertungen ist dieFunktions-
weise dieserSysteme für Menschen kaum noch
nachvollziehbar.Wenn auch noch Geisterarbei-
ter in diesen Maschinen herumspuken, ist diese
KI nicht mehr beherrschbar. Es gilt, in der KI die
geheimen Schubladen zu öffnen, die doppelten
Böden auszuleuchten.