MEINUNG &DEBATTEMFreitag, 20. September 2019 Freitag, 20. September 2019 EINUNG & DEBATTE
Der perfekte Albtraum
Russland macht im Internet Informationen zur Waffe. Chinaperfektionie rt dieTechnologiezursozialenKontrolle,
während das Silicon Valley unsere Daten nur des Profits wegen ausspäht.Wennder Überwachungskapitalismus
und der Überwachungsstaat zusammenwachsen, bleibt die Freiheit auf der Strecke.Von Eric Gujer
welche Staaten im 21.Jahrhundertdominieren. Der
CEO von Google, Sundar Pichai, nennt die KI noch
wichtiger als die Entdeckung von Feuer und Elektri-
zität. DerVerweis auf Prometheus ist also berechtigt.Dein Gesicht und deine
Stimme verraten dich
China hat bereits das weltweit grösste Netz an
Videokameras im öffentlichenRaum und will es bis
2020 auf 625Millionen Kameras ausbauen. KI er-
kennt nicht nur Gesichter, sondern wertet auch Ge-
schlecht, Grösse und Kleidung derPassanten aus. In
der Provinz Anhui läuft einPilotprogramm, um dieStimmen von Mobilfunkteilnehmern auszuwerten.
Noch sind erst einige zehntausend Stimmproben hi n-
terlegt, aber die Behörden sind zuversichtlich, bald
automatisch alle Stimmen inTelefongesprächen er-
kennen zukönnen.Da ist es auchkein weiterWeg
mehr, bis AmazonsLautsprecher «Alexa» das kann.
Und das ist der eigentlich furchterregende Ge-
danke: dass der Überwachungskapitalismus und
der Überwachungsstaat zusammenwachsenkönn-
ten.Das ist dann tatsächlich eine neue Singularität –
aber ganz anders, als Ray Kurzweil sie sich vorstellt.Berüchtigt ist das Programm zumAufbau eines
Social-Scoring-Systems in China. Strafregisteraus-
zug, Kreditkartenbonität, das von einerVideo-
kamera aufgenommene Betreten derFahrbahn
bei Rot, im Handy-Gespräch geäusserte politische
Ansichten: All das wird zusammengeführt werden
und die Bewertung von jedem der 1,4 Milliarden
Chinesen erlauben. Mehrere Millionen Menschen
durften bereitskeine Tickets für Inlandsflüge und
Hochgeschwindigkeitszüge kaufen, weil die Behör-
den ihrVerhalten als missliebig einstuften. Umge-
kehrt bringt erwünschtesVerhalten Bonuspunkte
und Privilegien. «Nudging», Schubsen, nennt die
Verhaltensökonomie solche Inzentivierung. Mao
«nugdt» neuerdings.Verhaltensökonomie und KI
geh en eineSymbiose mit totalitärem Denken ein.Wer die Standards setzt,
kontrolliert dieWelt
«BigData meets Big Brother» bleibt nicht auf
China beschränkt. Die Überwachungstechnologie
wird insAusland verkauft, vor allem aber dringt
allmählich chinesische Hardware und Software auf
denWeltmärkten vor. Handys und Netzwerkausrüs-
tung von Huawei si nd ebenso Beispiele wie dieApp
WeChat, mit der bereits 80 Prozent der Chinesen
chatten und bezahlen,oderTiktok,eineVideoplatt-
form,die dank KI zielgenau auf die Bedürfnisse der
Usereingeht. Bei norwegischen Kids istTiktok der
letzte Schrei, weshalb norwegische Medien fleis-
sig Inhalte für die App kreieren.Wer weiss, welche
Codes in der App sonst noch eingebettet sind.
Und seien wir ehrlich:Wenn es nur China wäre,
wäre es nur halb so schlimm. Aber auch westliche
Länder mischen ganz vorne mit bei der Entwick-
lung von Überwachungssoftware, etwa Amerika
und Israel. So hilft dasSilicon Valley Peking, die
Überwachung seiner Bürger zu perfektionieren.- Geopolitik undTechnik: Das Internet ist auch
ein Instrument der Gleichschaltung – wenigstens
in technischer Hinsicht. Die USA setzten hier die
tec hnischen Normen,und dieWelt folgte. Man sieht
dies daran,dass dieUSA das einzigeLand sind,das
keine nationaleKennung in Internet-Adressen hat.
Das Internet ist das beste Beispiel für Geopolitik
durch IT.
Das nächste Megaprojekt steht jetzt vor der Ein-
führung – allerdings istPeking diesmal wild ent-
schlossen,dieVorherrschaft nichtAmerika zu über-
lassen. Der neue Mobilfunkstandard 5G wird die
Telekommunikationrevolutionieren. Er ist schnel-
ler, er kann grössere Datenmengen verarbeiten und
mehr Teilnehmer bedienen. SelbstfahrendeAutos
und in Echtzeit ferngesteuerte Industrieroboter
sind so erst möglich.
In den Uno-Gremien tobt bereits–man kann es
nicht anders nennen – eine Schlacht zwischen den
USA und China um die technischen Normen.Ame-
rika fordert zudem seineVerbündeten auf, keine
chinesische 5G-Netzwerktechnik einzusetzen, weil
diese im Ernstfall vonPeking manipuliert werden
könne. So droht eine Zweiteilung derWelt: Die
USA, Europa undAustralien setzen auf europäi-
sche und amerikanischeAnbieter;Afrika und weite
Teile Asiens auf die chinesische Alternative.Wer
die Standards bestimmt, hat einen Startvorteil bei
der Vermarktung von neuenTechnologien.Das gilt
auch für 5G. China will beim Internet der Dinge
und selbstfahrendenAutos führend sein. Und nicht
völlig zufällig ist jetzt der Chef der Uno-Organisa-
tion in Genf, die für die 5G-Normen zuständig ist,
ein Chinese.
Standards definieren dieArt,wie wir mitTechnik
umgehen undwie diese auf unserLeben einwirkt.
Demokratien müssen daher erörtern,welche gesell-
schaftlichenAuswirkungen sie akzeptieren.Ein Bei-
spiel hierfür ist die KI, in der – vereinfachtgespro-
chen–Technikautonomentscheidet und sich über-
dies autonom weiterentwickelt. Umso wichtiger sind
die ethischen Normen,die der Software einprogram-
miertwerden. Bei Kampfrobotern von Drohnenbis
zu Minipanzern ist das evident. Es gilt aber genauso
für selbstfahrendeAutos und zivileRoboter. Es gilt
erst recht für Überwachungssoftware, die auch im
Westen Einzug hält.Westliche Behörden setzen
ebenfalls vermehrt auf Gesichtserkennung und den
lückenlosen Einsatz vonVideokameras.
In London gibt es proKopf der Bevölkerung
mehr als doppelt so viele Kameras wie in der
Hauptstadt des Überwachungsstaates China. Die
LondonerPolizei testet die Gesichtserkennung in
Feldversuchen. Sobald der Computer einePerson
zu erkennen glaubt, die zurFahndung ausgeschrie-
ben ist, wird sie verhaftet. Entscheidet also künf-
tig KI-Software, ob Passantenerkennungsdienst-
lich behandelt werden? Man sollte das nicht ein-
fach abtun. Ein vorläufiger Arrest mit Leibesvisi-
tation istkeine erfreuliche Erfahrung, auch in der
Schweiz nicht.
Der Unternehmer Kai-FuLee vertrittdieThese,
dass China einemTechno-Utilitarismus anhängt:
also der grösste Nutzen für die grösste Zahl von
Menschen. Gesellschaften, die auf denWerten
der Aufklärung basieren und vomWert des Indi-
viduums überzeugt sind, sollten das anders sehen
und für ihreWerte einstehen. Sie müssen auch da-
für sorgen, dass dieInfor mationstechnologie diese
Werte reflektiert.
Ich habe ganz bewusst so unterschiedliche Dinge
wie dieVideoüberwachung, chinesische Unterhal-
tungs-Apps in norwegischen Kinderzimmern,rus-
si sche Angriffe auf die Schweizer Neutralität oder
AmazonsLautsprecher «Alexa» zusammengenom-
men.Jeder der vier Bereiche bedeutet für sich eine
Herausforderung. In derWechselwirkungaber
haben sie dasPotenzial, unser Leben drastisch zu
verändern.Die Neutralität
schützt nicht mehr
Was bedeutet es, wenn der Schweizer Neutralitäts-
begriff zum ZweitenWeltkrieg passt, aber nicht zu
Cyberangriffen und dem «information warfare»?
Weil die hybride Kriegsführung imFrieden beginnt,
ist unserKonzept vonLandesverteidigung obsolet.
Ich prophezeie Ihnen:Bei derAbstimmung über
den Kampfjet werden wir eine digitale Beeinflus-
sungsoperation erleben.Moskau will unbedingt ver-
hindern, dass die Schweiz ein US-Flugzeug kauft.
Schon heute machenTrolle im Internet dagegen
Stimmung.Wiederlasse n sich dieAccountskeinen
realen Personen zuordnen. Das kann uns nicht egal
sein.Wir müssen nachWegen suchen, um solche
Operationen offenzulegen.
Was bedeutet es, wennTechnik nicht eben bloss
ein Walkman, ein CD-Player oder einAuto ist, son-
dern ein Smartphone, das unserePersönlichkeit
affiziert? Es liefert den Menschen ihr Bild von der
Welt, es überwacht dieFitness und bestimmt, wie
wir mit derWelt kommunizieren. Haben Sie schon
einmal beobachtet, wie ein Kind vergeblich um
Aufmerksamkeit ringt, während Mutter oderVater
Zwiesprache mit ihremTelefon halten?
Was bedeutet es, wenn autoritäre Herrscher
wie Putin den Umstand ausnutzen, dass Menschen
heuteTechno-Golems sind mit einem Handy als
Körperteil, um ihre Ideologie zu verbreiten?
Was bedeutet es schliesslich, wenn gesellschaft-
liche Entwicklungen in fernenLändern nicht auf
diese beschränkt bleiben, sondern unmittelbar auf
die Länder desWestens einwirken?Das Internet ist
ein «global village», das Menschen zusammenbringt
und denAustausch fördert. Es kann auch ein «glo-
bal prison» sein, das die Überwachung fördertund
die entsprechendenTechnologien verbreitet.Firmen
besser kontrollieren
Damit sind wir bei denKonsequenzen.Wirmüssen
vermutlich stärker als bisher die wirtschaftlichen
Aktivitäten vonFirmen aus Staaten beobachten,
die wie China nicht immer fair und vor allem nicht
transparent agieren.Wo es um die individuelle und
gesellschaftlicheFreiheit geht,können wir dieFir-
men eines Überwachungsstaates nicht gleich behan-
deln wie Unternehmen aus Demokratien. Hier sind
wir in der Schweiz vermutlich noch zu blauäugig.
Ich forderekeine neuen Gesetze zur Investitions-
kontrolle. Der bestehendeRechtsrahmen gibt denBehördengenügend Spielraum.Aber das vom Bun-
desrat angekündigte Monitoring ist sinnvoll.Wich-
tig ist, dassPolitik und Öffentlichkeit demThema
die nötige Beachtung schenken.Wir müssen auch
als ein kleineresLand sehr viel stärker versuchen,
Einfluss auf Standards und ethische Normenin der
Technologieentwicklung zu nehmen.Das ist eine
Aufgabe derAussenpolitik.Wir müssen darüber
diskutieren, wie IT-Konzernekontrolliert werden
und wie sich die Schweiz in diesenRegulierungs-
prozess einbringen kann. Früher bin ich davon aus-
gegangen, dass die Stellung von Googlekein Pr o-blem sei. Jemand programmiert eine bessere Such-
maschine, und Googles Dominanz ist dahin.
Ich habe meine Meinung geändert. DieTech-
Giganten besitzen aufgrund ihrer schieren Grösse
gegenüber Newcomern inzwischen einen immen-
sen Vorteil. DerWettbewerb funktioniert nur noch
eingeschränkt. Social Media haben einen massiven
Einfluss auf die Demokratie und die Art, wie wir
Politik betreiben. Sie sind daher systemrelevant
wie Grossbanken, die ebenfalls einerRegulierung
unterworfen sind.Panik
stattWachsamkeit
In einer NZZ-Kolumne beschreibt der Historiker
NiallFerguson, wieFacebook undYoutubeTexte
und Videos mit politisch «unangemessenen» In-
halten zensieren. Und als unangemessen gilt alles,
was umstritten ist,etwa rechtspopulistischeÄusse-
rungen. Ist das unsereVorstellung von Demokra-
tie: ohne Pluralismus, ohne den Streit der manchmal
auch extremen Meinungen? Nein,das darf nicht sein.
NichtPanik, sondernWachsamkeit ist ange-
bracht.Jede neueTechnologie weckt Ängste. Ein
Beispiel ist die Gentechnik,die in den1980er Jahren
mit dem Klonen von Menschen gleichgesetzt wurde.
Die Befürchtungen haben sich nicht bewahrheitet,
weil inzwischen rund um den GlobusVorschriften
gelten, die eineBalance zwischenForschungsfrei-
heit und dem Schutzbedürfnis der Gesellschaft her-
stellen. Um revolutionärerTechnologien Herr zu
werden, brauchtesalso keine antikapitalistischen
Kahlschlag-Szenarien, wohl aber ein vernünfti-
ges und liberalesRegelwerk.Für Kulturpessimis-
mus, diesmal in der digitalenVariante, gibt eskei-
nen Anlass.
GriffigeRegeln existieren allerdings in der In-
formationstechnologie und der KI nicht oder nur
in Teilbereichen, und vor allem nicht mit weltweiter
Gültigkeit. Sie werden auch viel schwieriger zu er-
reichen sein, denn hier geht es um einen Milliarden-
markt für Unternehmen und gleichzeitig die mili-
tärischen und strategischen Interessen von Staaten.
So versucht die Uno seit einemJahrzehnt, eineRüs-
tungskontrolle für Cyberwaffen durchzusetzen, ana-
log zu denAtomraketen im Kalten Krieg.Vergeblich.
Ebenfalls bis jetzt vergeblich bemüht sich die
Staatengemeinschaft,Regeln für Killer-Robots und
andereWaffensysteme mit KI zu definieren. Den-
noch müssen wir versuchen,auch hier eineBalance
zu erreichen. Denn wer heuteFreiheit sagt, meint
ganz oft: einen Software-Code.
Die offene Gesellschaft wirkt oft schwächer als
ihre autoritären Herausforderer, aber sie besitzt
einen unschätzbarenVorteil:ihre Fähigkeit zur
Selbstkorrektur durch kritische Debatten.Was die
Digitalisierung mit all ihren Aspekten undWech-
selwirkungenanlangt, stehen wirerst amAnfang
der Diskussion.Vortrag an der Preis verleihung 2019 der «Bonny-Stiftung
für die Freiheit» in Bern.Übernehmen die chinesi-
schen Konzerne in der
künstlichen Intelligenz
die Führungsrolle, gehört
etwas der Geschichte an, was
der Westen seit dem Ende
des Mittelalters als selbst-
verständlich betrachtet:
seine wissenschaftliche
Vormachtstellung.
In London gibt es pro Kopf
der Bevölkerung mehr
als doppelt so viele Kameras
wie in der Hauptstadt des
Überwachungsstaates China.
10 11