K
leiner Test, Mensch gegen Ma-
schine: 1+1+1+1+1+1+1 ergibt
wie viel? Ein selbstlernender
Computer, Inbegriff künstlicher
Intelligenz, machte sich ans Werk. Sieben-
mal die 1, so befand er nach einigem Kno-
beln, da müsse wohl 6 herauskommen.
Ein Computer, der an Rechenaufgaben
für Erstklässler scheitert – das ist neu. Auf
die sonderbare Zahlenschwäche stießen in
einem Experiment ausgerechnet Forscher
der Firma DeepMind aus dem Google-Im-
perium; sie ist berühmt für die Software
AlphaGo, die sich das schwierige Brett-
spiel Go weitgehend selbst beigebracht hat.
Am Ende bezwang sie die stärksten
menschlichen Gegner.
Solche »künstlichen neuronalen Netze«
lernen durch Herumprobieren an Unmen-
gen von Beispielen; AlphaGo etwa spielte
Millionen Partien gegen sich selbst – und
wurde dabei immer besser.
Den neuartigen Rechenkünstler wiede -
rum trainierten die Forscher mit einem rie-
sigen Fundus an Textaufgaben, wie sie
auch im Schulunterricht gestellt werden.
Doch es half nichts, beim schlichten Ad-
dieren ganzer Zahlen verfiel die Lern -
maschine mitunter in Konfusion.
Den amerikanischen Kognitionsfor-
scher Gary Marcus überrascht dieses Ver-
sagen nicht. »Es ist töricht, alle möglichen
Aufgaben mit Maschinenlernen bewäl -
tigen zu wollen«, sagt er. »Fürs Rechnen
haben wir doch bewährte Methoden.«
Gewöhnliche Computer greifen auf vor-
gefertigte Programme zurück; so meistern
selbst Taschenrechner tadellos ihre Kalku-
lationen. Doch an der simplen Lösung sind
die Forscher von DeepMind nicht interes-
siert. Sie streben einen Computer neuen
Typs an. Er soll den Umgang mit Zahlen
von Grund auf selbst erlernen – so wie er
auch gelernt hat, Gesichter auf Fotos zu
erkennen oder Werbung für Sofortkredite
aus dem Weißrussischen in ein lustiges
Deutsch zu übersetzen.
Eines Tages, das ist die Hoffnung, könn-
te das Trainieren mit Beispieldaten echte
Intelligenz hervorbringen. Bei den stüm-
pernden Rechenversuchen geht es also
ums Prinzip.
Das Verfahren nennt sich Deep Lear-
ning, es hat in den vergangenen Jahren
enorme Fortschritte gemacht. Doch traten
immer öfter krasse Fehler zutage: Ein neu-
ronales Netz, trainiert fürs Erkennen von
Bildern, hielt einen Pilz für eine Brezel.
Ein Stoppschild, um 90 Grad gedreht, ging
als Hantel durch. Und auf dem Foto eines
Faultiers, das in kaum sichtbaren Details
manipuliert war, erkannte die künstliche
Intelligenz einen Rennwagen. Dass schnel-
le Autos nicht in Bäumen herumzuhängen
pflegen, störte sie nicht weiter.
Solche Ausfälle zeigen, dass Computer
noch immer nicht im Mindesten verstehen,
was sie jeweils vor sich haben. Meist raten
sie dennoch richtig – aber verlassen sollte
man sich darauf nicht. Forscher ersinnen
immer neue Methoden, die KI-Program-
me hereinzulegen; es ist eine Art Sport
geworden. Die Zunft durchlebt deshalb
gerade eine tiefe Krise. »Deep Trouble
for Deep Learning« titelte kürzlich das
Wissenschaftsmagazin »Nature«.
Der Befund, dass die tüdeligen Lern -
maschinen auch Probleme mit dem Rech-
nen haben, passt gut ins düstere Bild.
»Wenn man nicht einmal Arithmetik und
einfache Logik hinkriegt, sollte man sich
die Sache mit der Intelligenz vielleicht
noch einmal überlegen«, sagt Gary Marcus.
Der Forscher hält das ganze Vorhaben
für vermessen. Er kritisiert seit Jahren den
manchmal heillosen Hype ums Deep
Learning. In viel zitierten Artikeln verwies
er auf die Grenzen der Methode; aus sei-
ner Sicht wird sie teils fahrlässig über-
schätzt.
Mit dem Lernen aus Datenmassen al-
lein, so glaubt Marcus, komme der Com-
puter nie zu brauchbarem Verstand; man
benötige auch noch andere Methoden –
darunter das gute altmodische Program-
mieren von Hand.
Wie das gelingen könnte, will der Mann
nun selbst erproben. Dafür hat er seinen
Job als Professor für Psychologie an der
New York University aufgegeben. Mit ein
paar Kollegen, darunter der Roboterpio-
nier Rodney Brooks, hat er die Firma Ro-
bust AI gegründet. Das illustre Start-upsucht nach einem Weg aus der Sackgasse,
in die sich die KI-Forschung verlaufen hat.
Noch weiß freilich niemand, wie sich die
Schwächen des Maschinenlernens über-
winden ließen.
Ein Großteil der beteiligten Forscher
setzt offenbar weiterhin auf die Leistungs-
kraft neuronaler Netze – unbeirrt auch
von früheren Rückschlägen. In der kurzen
Geschichte dieser Technik wurden schon
etliche Revolutionen verheißen, die dann
ausblieben (siehe Grafik Seite 116).
Nur wenige Jahre ist es zum Beispiel
her, da schien den sogenannten Chatbots
die Zukunft zu gehören: Schlaue Assisten-
ten, die sich auf Texteingaben in Umgangs-
sprache verstehen, sollten für ihre Nutzer
Meetings organisieren oder Urlaubsreisen
planen. 2015 begann Facebook unter gro-
ßem Aufsehen einen Testlauf für das All-
zweckhelferlein »M«.
Im vergangenen Jahr brach der Kon-
zern das Projekt ab. Die Assistenten wuss-
ten allzu oft nicht weiter, immer wieder
mussten Mitarbeiter einspringen. »Es kam
einfach kein Bot zustande, mit dem man
sich zufriedenstellend hätte unterhalten
können«, sagt Marcus, der das auch nicht
anders erwartet hat: »Keine KI auf der
Welt versteht derzeit offene menschliche
Konversation.«
Nur in engen Grenzen kann das halb-
wegs gelingen. Ein künstlicher Assistent
ist wohl in der Lage, etwa in der Telefon-
zentrale einer Bank die eingehenden An-
rufe anzunehmen. Das meiste ist da Rou-
tine, die Software lässt sich darauf trai -
nieren – aber dann geschieht eben doch
immer wieder etwas, das niemand vorher-
sehen konnte.
Der Forscher nennt ein Beispiel: »Je-
mand ist in der Leitung und sagt, der Groß-
vater sei gestorben, man habe gerade einen
Scheck in einer Schublade gefunden – ob
man den noch einlösen könne?« Ein
Mensch würde sofort verstehen, dass es
um die Gültigkeit des Schecks geht. »Wir
zählen zwei und zwei zusammen und zie-
hen unsere Schlüsse«, sagt Marcus. »Aber
eine KI weiß nicht, was eine Schublade
oder was der Tod ist.«
Erstaunlich, was der Computer über-
haupt alles hinkriegt, obwohl ihm jegliches
Weltwissen fehlt. Zu den großen Trium-
phen des Deep Learning zählt Google
Translate – der Dienst liefert brauchbare
Übersetzungen für mehr als hundert Spra-
chen. Dabei verfügt er über keinerlei
Sprachverstand. Wörter oder Sätze bedeu-
ten dem Computer nichts. Für ihn sind
das nur Zeichenketten, in denen er statis-
tische Muster erkennt. Dann sucht er nach
ähnlichen Mustern in der Zielsprache.
Solange ein paar ulkige Fehler nicht stören,
genügt das.
»Dieses Verfahren Deep Learning zu
nennen war ein brillantes Stück Marke-115GRADY MITCHELL / DER SPIEGEL
KI-Kritiker Marcus
Heilloser Hype