WISSENSCHAFTFOCUS 40/2019 27
Abgehört durch digitale Assistenten,
aufgezeichnet von Fitness-Armbändern
oder abgebildet auf Fotos in einer Cloud,
wird buchstäblich jeder Faktor unserer
Existenz zur Ressource, mit der sich treff-
lich Geld machen lässt, sagt Zuboff: „Ihre
Tränen, Ihre zornige Miene, die Geheim-
nisse, die Ihre Kinder mit ihren Puppen tei-
len, unsere Frühstücksunterhaltung, unse-
re Schlafgewohnheiten, den Lärmpegel in
unserem Wohnzimmer, die Anordnung der
Möbel darin, Ihre zerschlissenen Jogging-
Schuhe, Ihr Zögern beim Anblick eines
Pullovers auf einem Ladentisch und die
Ausrufezeichen in Facebook-Postings, die
man früher einmal völlig arglos
und voll Hoffnung in die digitale
Entwicklung schrieb. Diese neu-
en Versorgungsketten sind der
Nachschubweg für ein ‚Produk-
tionsmittel‘, das uns als ‚Maschi-
nenintelligenz‘ bekannt ist.“
Angesichts der Vernebelungs-
strategie, mit der das Geschäft
betrieben wird – nicht zufäl-
lig wird die zugrunde liegende
Speicherarchitektur als Cloud
bezeichnet, eine Wolke, in die
hineinzublicken schier unmög-
lich ist –, raten Intellektuelle
zu radikalem Misstrauen. Der
Mensch sei von Natur aus ver-
trauensselig, schreibt der kana-
dische Bestsellerautor Malcom
Gladwell in seinem neuen Buch
„Die Kunst, nicht aneinander
vorbeizureden“ (Rowohlt). Ein
gewisses Maß an Vertrauen mag
nötig sein, um das Zusammen-
leben in einer Gesellschaft über-
haupt zu ermöglichen, den Praktiken der
Netzökonomie gegenüber ist es allerdings
unangebracht. Eher gilt das eherne Gesetz
der Wissenschaft: Was auch immer theore-
tisch möglich ist, wird praktisch umgesetzt
werden. Auf Selbstregulierung der Unter-
nehmen zu setzen scheint naiv.
Wenn Algorithmen uns steuern
Der britische Netztheoretiker James Bridle
plädiert in seinem Buch „New Dark Age.
Der Sieg der Technologie und das Ende
der Zukunft“ (C. H. Beck) für ein umfas-
sendes Bildungsprogramm, um den Ein-
zelnen in die Lage zu versetzen, mit den
Herausforderungen der Internetökonomie
umzugehen und ihre Mechanismen zu
durchschauen: „Wenn wir nicht verstehen,
wie komplexe Technologien funktionie-
ren, wie Technologiesysteme miteinan-
Wie sollen wir den Wert einer technischen
Neuerung für unseren Alltag beurteilen,
wenn nicht klar und umfassend gesagt
wird, welchem Zweck sie auch oder viel-
leicht sogar in erster Linie dient?
Noch haben wir und unsere gewähl-
ten Regierungen die Möglichkeit, die
Preisgabe unserer intimsten Daten ein-
zuschränken, aber das könnte sich in
Zukunft ändern, etwa wenn in größerem
Maß Informationstechnologie und Bio-
technologie miteinander verschmelzen.
„Die Schlüsselerfindung dabei ist der bio-
metrische Sensor, den Menschen am oder
im Körper tragen können“, schreibt der
israelische Historiker Yuval Noah Harari
in seinem Bestseller „21 Lektionen für das- Jahrhundert“ (C. H. Beck).
Solch eine Schnittstelle könnte Daten,
die über unsere Gesundheit oder auch
nur unsere Fitness Auskunft geben, an
Computer transferieren, die sie dann aus-
werten. Der Nutzen ist verführerisch: Wie
das Display eines modernen Autos wür-
de unser Smartphone Unregelmäßigkei-
ten im System anzeigen und auch gleich
die passende Therapie vorschlagen. Die
Menschen werden die bes-
te Gesundheitsversorgung
bekommen, die es je gege-
ben hat, prophezeit Harari.
Wer es sich leisten kann, ver-
mag sein Leben beträchtlich
zu verlängern. Allerdings
könnten auch unsere Arbeit-
geber oder unsere Kran-
kenversicherungen Zugriff
auf diese Daten fordern, um
uns bestimmte Therapien
zu verordnen und deren Fort-
schritt zu überwachen. Und
sie könnten uns ächten, soll-
ten wir den Blick in unser
Innerstes verweigern.
Das chinesische Social
Scoring gibt einen Vorge-
schmack auf diese „Schöne
Neue Welt“: Bürger werden
mit Sozialpunkten für Wohl-
verhalten belohnt, etwa wenn
sie fleißig im Job sind und re-
gelmäßig die Familie besu-
chen. Unbotmäßiges Verhalten oder gar
Kritik an der Regierung wird mit Abzug
bestraft. Wessen Punktestand zu niedrig
ist, muss mit Sanktionen rechnen.
Harari geht aber noch einen Schritt wei-
ter und befürchtet, dass wir unseren freien
Willen gleich ganz abschaffen, indem wir
mehr und mehr Entscheidungen an künst-
liche Intelligenzen delegieren, von der
Auswahl des Films, den wir heute Abend
anschauen wollen, über den Entschluss,
einen bestimmten Beruf zu ergreifen,
bis zur Partnerwahl. „In den vermeint-
lich freien Gesellschaften könnten Algo-
rithmen an Macht gewinnen“, schreibt
Harari, „weil wir aus Erfahrung lernen
werden, ihnen in immer mehr Fragen zu
vertrauen, und weil wir allmählich unsere
Fähigkeiten verlieren werden, selbst Ent-
scheidungen zu treffen.“ nVorstoß gegen das Verbrechen
Im Film „Minority Report“ identifiziert Tom Cruise mögliche Täter„Wir verlieren die Fähigkeit, selbst zu entscheiden“
Yuval Noah Harari, Historikerder vernetzt sind und wie Systeme von
Systemen interagieren, sind wir innerhalb
dieser Systeme machtlos, und egoistische
Eliten und unmenschliche Unternehmen
können sich ihres Potenzials umso leichter
bemächtigen“, schreibt Bridle. Doch die-
ses Verständnis setzt Transparenz voraus.