Die Zeit - 14.07.2019

WISSEN

Kunterbunte

Täuschung: Den

Computer lässt

ein Pixelhaufen

wie dieser hier

glauben, er habe

ein Haushalts­

gerät vor sich

M

enschen fällt es schwer, in
einer Banane einen Toaster
zu erkennen. Dafür braucht
man schon einen Compu-
ter mit künstlicher Intelli-
genz. Das ist kein Witz,
sondern ein unter Infor-
matikern wohlbekanntes Experiment: Auf einer
hölzernen Tischplatte liegt, nun ja, eine Banane.
Und der Computer, dessen Kameraauge darauf ge-
richtet ist, erkennt diese auch als »banana«. Als
dann aber eine Hand ein kunterbuntes, glänzendes
und ziemlich psychedelisch anmutendes Bildchen
neben die Banane ins Blickfeld der Kamera hält,
meldet die Bilderkennungssoftware »toaster«. Mehr
noch, nachdem sie die Zuversicht, das Richtige er-
kannt zu haben, bei der Banane mit 97 Prozent
angegeben hatte, ist sie sich jetzt plötzlich sogar zu
99 Prozent sicher.

Andere Fälle zeigen, wie eine Mikrowelle mit

störendem Sticker als Telefon einsortiert wurde.

Und wie nach Zugabe von ein paar Pixeln, die

kein Mensch bemerken würde, der Rechner einen

Pandabären als Gibbonäffchen erkennt.

Natürlich ist das witzig, nicht ohne Grund zir-

kulieren die Beispiele unter Fachleuten: So leicht

lässt sich also jene Zaubertechnik austricksen, die

seit einigen Jahren populäre Fantasien und Hoff-

nungen befeuert, die künstliche Intelligenz (KI).

Oder wie das Silicon-Valley-Zentralorgan Wired es

im vergangenen Herbst zusammenfasste: »KI hat

ein Problem mit Halluzinationen.«

Diese Schwäche kann gruselig erscheinen: So

konnten Forscher im vergangenen Jahr ein Stopp-

schild durch wenige geometrische Aufkleber, die

keinen Menschen stören würden, für eine Bilder-

kennung unkenntlich machen. Anderen gelang es,

dem Computer eine Plastikschildkröte durch

subtile Gravuren auf ihrem Panzer als Schuss-

waffe erscheinen zu lassen.

Straßenverkehr, Waffen – spätestens da hört

der Spaß auf. Adversarial attacks (»feindselige An-

griffe«) nennen Informatiker es, Systeme durch

gezielte Störungen zu völlig falschen Ergebnissen

zu verleiten. Bisher sind solche Attacken Experi-

mente im Labor, nicht aus dem echten Leben.

Irrelevant sind sie deshalb aber nicht. Ja, sie bieten

sogar die Chance, die Technik besser zu verstehen

und besser zu machen.

Gerade haben Tübinger Forscher um Michael

J. Black, Direktor am Max-Planck-Institut für

Intelligente Systeme, die Liste der Trugbilder um

ein Beispiel von neuer Qualität erweitert. Mit ei-

nem kleinen, kunterbunten Pixelhaufen haben sie

verschiedene Systeme zur Bewegungserkennung

(optical flow systems) gründlich von ihrer Aufgabe

abgelenkt: nämlich auf Basis von Videoaufnahmen

zu berechnen, wie schnell sich Objekte bewegen

und wohin. Schon ein Angriff auf einen kleinen

Teil des Bildes habe eine große Auswirkung ge-

habt, berichtet Black. Weniger als ein Prozent der

Fläche nahm der Pixelhaufen ein, störte aber er-

heblich. Ende Oktober haben die Tübinger ihre

Attacke bei der International Conference on

Computer Vision in Seoul demonstriert.

Weil optical flow-Systeme es erlauben, im Ge-

wusel einer Verkehrssituation die wesentlichen

Bewegungen (etwa von Fahrzeugen und Radfah-

rern) zu verfolgen, sind sie plausible Bausteine für

künftige selbstfahrende Autos. Um Herstellern

und Zulieferern Gelegenheit zu geben, ihre Systeme

auf Schwächen zu testen, hatten die Forscher sie

lange vor der Veröffentlichung informiert und

ihnen auch die störenden Pixelhaufen zugeschickt.

KÜNSTLICHE INTELLIGENZ • GENERATIONEN • MEDIZIN • ENERGIE • HYGIENE

Sind für den

Sauerstoff bedarf

jedes Menschen

16 Bäume nötig?

Beinahe umgekehrt: Ein einziger Baum

kann ein Dutzend Menschen mit Sauer-

stoff versorgen. Das schwankt zwar von

Baum zu Baum (und der Bedarf von

Mensch zu Mensch), daher sind solche

Zahlen mit Vorsicht zu genießen. Aber

die Größenordnung stimmt.

Bäume ziehen ja CO₂ aus der Luft,

verarbeiten dessen Kohlenstoff zu

Nährstoffen und geben den Sauerstoff

großteils wieder an die Luft ab. Men-

schen und Tiere atmen ihn ein, ver-

brennen damit ihre Nahrung und at-

men als Abgas CO₂ aus – ein Kreislauf,

der einigermaßen in der Balance war,

bis die Industrialisierung ihn störte.

Ein einzelner ausgewachsener Baum

kann in Hoch-Zeiten mehr als ein Ki-

logramm Sauerstoff pro Stunde abge-

ben. Rechnen wir, da bei Laubbäumen

im Winter die Pro duk tion praktisch

zum Erliegen kommt, mit 500 Gramm

pro Stunde: Der Bedarf eines Men-

schen schwankt gewaltig, abhängig von

Körpergröße und Aktivität. Nehmen

wir der Einfachheit halber einen Durch-

schnitt von 1000 Gramm pro Tag (42

Gramm pro Stunde), dann könnte ein

Baum zwölf Menschen versorgen.

Werden weltweit Wälder gerodet,

hat das einen großen Einfluss auf die

CO₂-Konzentration in der Luft, sie

liegt bei 0,04 Prozent. Den Anteil

des Sauerstoffs am Luftgemisch ver-

ändert es aber kaum, weil er mit

etwa 21 Prozent viel größer ist. Die-

ser Wert ist in einer Mil lion Jahren

nur geringfügig zurückgegangen –

und der Mensch hatte nichts damit

zu tun. CHRISTOPH DRÖSSER

Stimmt’s?

... fragt Bruno Becker,

Düsseldorf

Die Adressen für

»Stimmt’s«-Fragen:

DIE ZEIT, Stimmt’s?,

20079 Hamburg,

oder [email protected].

Das »Stimmt’s?«-Archiv:

http://www.zeit.de/stimmts

A http://www.zeit.de/audio

Abb.: Norman Mu; Illustration: Armando Veve für DIE ZEIT

Fortsetzung auf S. 34

I s t d a s w

ir

k

lic

h^ e

in

T

o

a

s

t

e

r

?

Für Künstliche Intelligenzen schon! Deren neuronale Netze haben eine mysteriöse Schwäche:

Sie lassen sich von psychedelischen Mustern in die Irre führen VON STEFAN SCHMITT

ANZEIGE

14. NOVEMBER 2019 DIE ZEIT No 47 33

WWW.PSYCHOLOGIE-H EUTE.DE

AUC

HAL

S

APP

ZEIG MIR, wieduwohnst,und ich

sagedir,

WERDUBIST.