Handelsblatt - 18.09.2019

Christof Kerkmann, Moritz Koch

Düsseldorf, Berlin

D

ieser Anruf wird ver-

mutlich in die Krimina-

litätsgeschichte einge-

hen. Es sei ein Notfall,

sagte der Chef seinem

Mitarbeiter. 220 000 Euro müsse die-

ser auf ein Konto in Ungarn überwei-

sen, und zwar sofort. Der Mann,

angestellt bei der englischen Tochter-

firma eines deutschen Energiekon-

zerns, tat, wie ihm geheißen. Warum

hätte er auch zweifeln sollen? Die

Stimme klang echt – die Sprachmelo-

die, der deutsche Akzent. Die Trans-

aktion erfolgte.

Der Mitarbeiter sprach jedoch

nicht mit seinem Chef, sondern mit

einem Betrüger. Der nutzte eine Soft-

ware zur Stimmenimitation und pro-

duzierte damit eine kaum erkennba-

re Fälschung. Vor eineinhalb Wochen

hat der Versicherer Euler Hermes

den Fall öffentlich gemacht – und da-

mit weltweit Schlagzeilen ausgelöst:

Womöglich haben Kriminelle erst-

mals Künstliche Intelligenz (KI) ge-

nutzt, um sich als jemand anders

auszugeben.

Wenngleich der Versicherer keine

Beweise präsentiert hat, ist vom ers-

ten Betrug mittels Deepfake die Re-

de. Der Begriff spielt darauf an, dass

die Technologie im Hintergrund als

„Deep Learning“ bezeichnet wird –

eine Spezialdisziplin der KI: Sie

nimmt sich das menschliche Gehirn

als Vorbild und verwendet für die

Informationsverarbeitung mehrere

Schichten künstlicher neuronaler

Netze. Das Ergebnis sind Bilder, Vi-

deos und Tonsequenzen, die echt

wirken, aber künstlich erzeugt wur-

den.

Neue Ära der

Desinformation

220 000 Euro – die Schadenssumme,

die Euler Hermes übernehmen muss-

te – sind nichts im Vergleich zum de-

struktiven Potenzial, das Deepfakes

entfalten können. Experten warnen,

dass eine neue Ära der Desinformati-

on bevorsteht. Gefälschte Videos

könnten gesellschaftliche Krisen aus-

lösen oder Panik an den Finanzmärk-

ten schüren. Allein die Möglichkeit

von Fälschungen könnte das Vertrau-

en in demokratische Institutionen

weiter untergraben, Debatten noch

stärker polarisieren und soziale Spal-

tungen vertiefen. „Für Staaten

schließt sich das Zeitfenster, sich ge-

gen die potenziellen Bedrohungen

durch Deepfakes zu schützen, bevor

diese eine Katastrophe auslösen“,

warnt Charlotte Stanton vom Carne-

gie Endowment for International

Peace.

Die Bundesregierung hat die Ge-

fahr erkannt, auch wenn sie sich um

eine nüchterne Sprache bemüht.

Dass „mittels Deepfakes erzeugte

Falschinformationen zur Beeinflus-

sung der Öffentlichkeit“ verbreitet

werden, sei „grundsätzlich nicht aus-

zuschließen“, erklärt das Innenminis-

terium. Darum bereiteten sich die

Behörden vor: „Zur Erkennung be-

ziehungsweise Bekämpfung von Kri-

minalität im Cyberraum unter Nut-

zung neuer technologischer Metho-

den“ seien die Sicherheitsorgane des

Bundes „fortwährend bestrebt, ihre

eigenen Analyse-, Ermittlungs- und

Strafverfolgungsfähigkeiten weiterzu-

entwickeln“. Die Methoden des ma-

schinellen Lernens, die zur Herstel-

lung von Deepfakes verwendet wer-

den, könnten „auch herangezogen

werden, um eine Erkennung soge-

nannter Deepfakes gezielt zu unter-

stützen“.

Eine Antwort von Innenstaatsse-

kretär Klaus Vitt auf eine schriftliche

Frage des FDP-Abgeordneten Kon-

stantin Kuhle weckt allerdings Zwei-

fel daran, dass die Bundesregierung

wirklich in der Lage wäre, Deep -

fakes zu identifizieren. „Ansätze aus

Wissenschaft und Forschung zur Er-

kennung von sogenannten Deep -

fakes sind den Sicherheitsbehörden

des Bundes bekannt, hierbei han-

delt es sich aber im Wesentlichen

um Grundlagenforschung“, heißt es

in dem Schreiben, das dem Handels-

blatt vorliegt.

Nähere Angaben zu ihrem forensi-

schen Instrumentarium will die Bun-

desregierung nicht machen: Das

„Staatswohl“ stehe der Offenlegung

„polizeilicher und nachrichtendienst-

licher Vorgehensweisen zur Gefah-

renabwehr“ entgegen.

Breite öffentliche Aufmerksamkeit

erregten Deepfakes erstmals 2017, als

auf dem als anarchisch bekannten

Portal Reddit Pornovideos mit promi-

nenten Schauspielerinnen auftauch-

ten – ihre Köpfe montierten Nutzer

mithilfe von Software hinein. Die Fäl-

schungen flogen schnell auf, das Un-

ternehmen sperrte das Forum ein

paar Monate später, doch die Idee

war in der Welt.

Die Kosten für die Manipulation

von Videos sinken drastisch. Was frü-

her nur Spezialisten aus Hollywood-

Studios konnten, lässt sich heute auf

leistungsfähigen PCs zusammenbas-

teln. Dafür benötigte Programme

sind teils frei verfügbar. Wer noch

üben muss, kann sich eine Anleitung

auf Youtube anschauen. Kaan Sahin

von der Deutschen Gesellschaft für

Auswärtige Politik (DGAP) spricht da-

her von einer „Demokratisierung der

Desinformation“.

Dieser Fortschritt ist eine Folge der

KI-Revolution der vergangenen Jahre.

Im Bereich Deep Learning werde

zwar schon seit Jahrzehnten ge-

forscht, erläutert der Informatiker

Hao Shen, der bei Fortiss, einem For-

schungsinstitut des Freistaats Bayern,

das Labor fürs maschinelle Lernen

leitet: „Aber jetzt sind die Grundla-

gen vorhanden.“

Neben den Algorithmen, die For-

scher teils schon vor Jahrzehnten

auf Papier entwickelt haben, gibt es

heute die gigantischen Datenmen-

gen, die es braucht, um die Syste-

me zu trainieren, sowie die massive

Rechenkraft, um die Arbeit zu be-

wältigen. Plötzlich werden Anwen-

dungen Realität, die früher als

Science-Fiction galten: von Poker-

programmen, die Profis schlagen,

bis zu Autos, die selbstständig über

die Straßen fahren.

Gleiches gilt für die Bearbeitung

von Videos und Audiodateien.

„Deepfake ist letztlich eine spezielle

Anwendung des Deep Learning“,

sagt Shen. Auch hier lernen Algo-

rithmen selbstständig, indem sie in

großen Datenmengen nach Regeln

und Mustern suchen. Beispiel Vi-

deo: Die Software leitet zunächst ab,

welche Merkmale des Gesichts

wichtig sind – Augen und Ohren,

Lachfalten und Stirnrunzeln. Das er-

ledigt der Computer anhand der

Beispiele selbstständig, ohne dass

ein Mensch definiert, welche Be-

standteile wichtig sind.

Anschließend ist es möglich, be-

stimmte Gesichtsausdrücke auf eine

andere Person zu übertragen. So ent-

stand ein Video von Ex-US-Präsident

Barack Obama, der auf seinen Nach-

folger Donald Trump schimpft. Oder

ein Video von Facebook-Gründer

Mark Zuckerberg, der von der totalen

Deepfakes

Alles Lüge?

Mit KI-Methoden lassen sich täuschend echte Videos und

Audiobotschaften produzieren. Experten befürchten, dass die

Perfektion der Desinformation die Demokratie gefährdet.

Wladimir Putin: Die Angst

in den USA ist groß, dass

sich Russland mit Deepfakes

in den US-Wahlkampf

2020 einmischen könnte.

Für Staaten

schließt

sich das

Zeitfenster,

sich gegen die

Bedrohungen

durch

Deepfakes zu

schützen.

Charlotte Stanton

Carnegie Endowment

for International Peace

Digitale Revolution

1

MITTWOCH, 18. SEPTEMBER 2019, NR. 180

22