Le Monde - 26.11.2019

0123
MARDI 26 NOVEMBRE 2019 économie & entreprise| 19

réglementation des deepfakes serait extrême­

ment prématurée ». « Il ne me semble pas que

le phénomène soit généralisé – il est même dé­

montré qu’il est aujourd’hui largement con­

centré dans l’industrie du porno –, ni que la

technologie soit à ce point infaillible qu’elle

soit indétectable », explique­t­il au Monde

La Californie a de son côté légiféré en octo­

bre, interdisant les vidéos trafiquées de per­

sonnalités politiques dans les soixante

jours précédant une élection. Mais légiférer

peut être une pente glissante, prévient

l’Electronic Frontier Foundation (EFF), une

grande ONG américaine de défense des li­

bertés numériques. Son directeur, David

Greene, évoque un risque pour la liberté

d’expression, et souligne que les lois en

place, notamment sur le harcèlement ou la

diffamation, répondent déjà aux probléma­

tiques liées aux deepfakes.

LA RESPONSABILITÉ DES PLATES-FORMES

Les regards se tournent aussi vers les gran­

des plates­formes où ces vidéos sont diffu­

sées. Certaines, comme le site pornographi­

que Pornhub, les ont interdites dans leur rè­

glement – il en subsiste toutefois, comme

nous avons pu le constater. Du côté des

grands réseaux sociaux, on reste frileux : pas

de traitement particulier chez Facebook, et

Twitter a évoqué l’idée de signaler, sans les

interdire, les deepfakes aux internautes. Cer­

taines grandes entreprises comme Google,

Facebook et Microsoft encouragent par

ailleurs la création de logiciels de détection à

travers des concours.

Mais les géants du Web ne se concentrent

peut­être pas sur le vrai problème, laisse

entendre Alexandre Alaphilippe : « On se

focalise trop sur la création de la désinforma­

tion, qui de toute façon va exploser. Mais il

faut aussi s’intéresser à la façon dont ce

contenu est distribué. Pourquoi, à partir

d’une vidéo de rats sur YouTube, tombez­

vous en deux clics sur une vidéo sur l’immi­

gration? On ne peut pas mettre toutes les res­

sources sur la recherche pour repérer les

deepfakes, il faut aussi en faire sur les algo­

rithmes de recommandation. »

Et que l’on soit capable, ou pas, de les

détecter et d’endiguer leur diffusion, le

mal est déjà fait. Fin 2018, des rumeurs sur

l’état de santé d’Ali Bongo circulaient au Ga­

bon, le président gabonais n’ayant fait

aucune apparition publique depuis une

hospitalisation quelques semaines plus tôt.

Pour y couper court, le gouvernement a

mis en ligne une vidéo dans laquelle Ali

Bongo adressait ses vœux pour 2019 aux

citoyens du pays.

Elle eut l’effet inverse : des internautes, des

médias et des opposants politiques la trou­

vèrent étrange et accusèrent les autorités

d’avoir diffusé un deepfake. Une semaine

plus tard, une tentative de coup d’Etat

ébranlait le pays.

L’histoire montre que l’existence même

de la technologie contribue à semer le

doute, et celui­ci peut être exploité pour

manipuler l’opinion. Comme l’expliquait

Claire Wardle, directrice exécutive de l’asso­

ciation de lutte contre la désinformation

First Draft au New York Times : « Ce qui m’em­

pêche de dormir n’est pas tant la technologie,

mais comment est­ce que, en tant que so­

ciété, nous réagissons face à l’idée que nous

ne pouvons plus croire ce que nous voyons ou

ce que nous entendons. »

morgane tual avec martin untersinger

11

1

0

1

1

1

0

0

0

1

1

0

1

1

0

0

1

1

1

0

0

1

00

1

1

1

0

0

0

1

0

0

1

1

0

1

0

1

1

0

0

1

0

0

0

00

0

01

0

11

1

1

0

0

1

1

1

0

0

1

1

0

1

1

0

0

0

1

1

1

1

0

0

0

« Deepfake » : le trucage à l’heure de l’intelligence artificielle

Comment ça marche?

D’autres exemples de trucage

Grâce aux deepfakes, des internautes ont pu modifier à leur guise

la distribution de nombreux films. Ainsi, dans une vidéo truquée publiée

en août, l’auteur, un certain Sham00K, a remplacé Tom Hanks, qui incarne

Forrest Gump dans le film homonyme, par John Travolta. Comment l’auteur

de la vidéo a-t-il procédé pour eectuer ce tour de passe-passe?

La vidéo de base

Grâce au deep learning, son ordinateur,

probablement très puissant, analyse

les images de John Travolta qu’on

lui a fournies et reconstitue les traits

de son visage, ses rictus,

ses expressions...

L’analyse

Le résultat de cette analyse est ensuite projeté

automatiquement dans l’extrait de Forrest Gump.

Dans cette vidéo, c’est le visage de Tom Hanks

qui sert de modèle. A chaque partie de son visage,

l’ordinateur fait correspondre celle du visage

de John Travolta.

Le personnage prononce donc les mêmes répliques

avec les mêmes expressions, mais c’est désormais

John Travolta qui l’incarne, et plus Tom Hanks.

Cette méthode est utilisée dans les deepfakes où une personnalité

tient des propos qu’elle n’a jamais prononcés. Si Sham00K l’avait utilisée,

il aurait pu faire prononcer à John Travolta d’autres répliques,

avec d’autres expressions (celles de l’acteur qui sert de modèle).

La projection

Les données

Le logiciel utilisé par Sham00K pour réaliser

son deepfake s’appuie sur le deep learning,

une technologie d’intelligence artificielle

consistant à fournir à un ordinateur une grande

quantité de données pour que celui-ci apprenne

de lui-même certains éléments.

Vidéo publiée sur Buzzfeed

et créée à partir d’une prise

de parole de Barack Obama.

L’acteur et réalisateur Jordan

Peele a servi de modèle

pour animer Obama.

Vidéo publiée par Bill Posters et Daniel

Howe, des artistes britanniques, créée

par l’agence israélienne Canny AI à partir

d’une vidéo de Mark Zuckerberg

évoquant l’ingérence russe dans la

campagne présidentielle américaine

de 2016 et d’un acteur pour animer

le visage de Mark Zuckerberg.

Infographie : Audrey Lagadec, Maxime Mainguet Sources : Le Monde, Buzzfeed, Solidarité Sida, Ctrl Shi Face, Sven Carleer

Vidéo publiée par Solidarité Sida,

créée par l’agence française La Chose

à partir d’un discours de Donald

Trump à la convention républicaine

de 2016 et avec l’aide d’un acteur

pour animer le visage de Trump.

La technologie

AVRIL 2018 JUIN 2019

Trump dit avoir vaincu le sida

Sham00K a d’abord choisi un extrait

du film où apparaît Tom Hanks.

Il a en parallèle réuni des milliers d’images

de John Travolta, généralement extraites

de vidéos.

1. 
   

2. 
   

3. 
   

4. 
   

5. 
   

Une autre méthode consiste à utiliser

le jeu d’un acteur lambda afin de projeter

sur ce modèle le visage de la personne

à intégrer dans la vidéo.

0

0

1

1

0

OCTOBRE 2019

Obama insulte Trump

Zuckerberg évoque le pouvoir

du contrôle des données

L’EXISTENCE DE 

LA TECHNOLOGIE 

CONTRIBUE À 

SEMER LE DOUTE, 

ET CELUI­CI PEUT 

ÊTRE EXPLOITÉ 

POUR MANIPULER 

L’OPINION

« ne croyez pas tout ce que vous

voyez sur Internet, OK? » Venant de

Ctrl Shift Face, la formule, plus qu’une

mise en garde, sonne comme un pied

de nez. Un sarcasme face à l’effroi pro­

voqué par les « fake news », tandis que

lui trafique des vidéos pour le simple

plaisir de divertir les internautes. Et si

Jim Carrey jouait dans Shining? Et si

Elon Musk apparaissait dans 2001 , re­

baptisé « L’Odyssée de SpaceX »? Et si

Donald Trump interprétait l’avocat

véreux de la série Better Call Saul?

Ces délires de fans, habituellement

cantonnés aux discussions de bars ou

de forums, sont devenus réalité ces

derniers mois grâce aux logiciels per­

mettant de fabriquer des deepfakes

(ou hypertrucages). Et, dans ce petit

monde de bidouilleurs, Ctrl Shift Face

tient le haut du pavé. Les vidéos de ce

trentenaire slovaque, qui préfère

taire son nom, accumulent des cen­

taines de milliers de vues, parfois plu­

sieurs millions.

Mais rares sont les deepfakes aussi

bien réalisés. « C’est facile d’en fabri­

quer de mauvais, mais très difficile

d’en faire un qui soit vraiment

réussi », explique­t­il au Monde. Si cet

internaute, aujourd’hui basé en

République tchèque, réussit de telles

prouesses, ce n’est pas tout à fait un

hasard : il travaille depuis longtemps

comme freelance dans le secteur des

effets spéciaux. Son travail consiste

d’ailleurs à « scanner des personnes »

afin d’intégrer leurs « doubles numé­

riques » dans des films ou des jeux vi­

déo. Passionné de technologies,

attiré par les réseaux de neurones

artificiels – à la base des deepfakes –,

il s’est tout naturellement intéressé

à ce nouveau moyen de manipuler

des vidéos.

Pour la télé et le cinéma

Chaque vidéo lui demande environ

une semaine, estime­t­il. Et toutes ne

terminent pas en ligne, le résultat

n’étant pas toujours à la hauteur de

ses espérances. Certaines de ses vi­

déos ont été un « cauchemar à réali­

ser ». Comme cet extrait de Matrix où

Bruce Lee interprète le héros à la place

de Keanu Reeves. « C’est une scène

extrêmement dynamique, où le visage

est souvent obstrué et où les angles

sont difficiles. Il m’a fallu pointer le

visage de Neo image par image. Des

milliers d’images. »

Avec 276 000 abonnés sur YouTube,

et des vidéos atteignant parfois des

sommets à onze millions de vision­

nages, Ctrl Shift Face dégage un peu

d’argent de cette activité. Il a même

réussi à convaincre 146 internautes de

lui faire des dons mensuels sur la

plate­forme Patreon : 892 dollars (soit

807 euros) tombent ainsi dans son es­

carcelle tous les mois.

Si cela ne lui suffit pas pour vivre,

les deepfakes prennent de plus en

plus de place dans sa vie profession­

nelle. « J’en ai fait quelques­uns pour

la télé et le cinéma », annonce­t­il,

sans donner plus de précision, ac­

cords de confidentialité obligent.

« Les deepfakes vont prendre beau­

coup de place dans l’industrie du di­

vertissement, prédit­il. Tu obtiens

dans certains cas de meilleurs résul­

tats qu’avec les effets spéciaux classi­

ques, et ça demande beaucoup moins

de temps et d’argent. Un bon exemple,

ce serait de mettre le visage d’un ac­

teur sur son doubleur. »

Un usage bien éloigné de ceux qui

ont principalement fait parler des

deepfakes ces derniers mois : les vi­

déos pornographiques et le spectre de

la désinformation.

« Le vrai problème, c’est Facebook »

« La presse adore écrire des articles qui

attisent les peurs pour vendre ou géné­

rer du clic, déplore­t­il. Et attiser les

peurs est plus dangereux que les deep­

fakes en eux­mêmes. » S’il ne nie pas

les usages malveillants qui peuvent

être en être faits, il tient à les mettre

en perspective : « Ce sont les fausses

informations en général, diffusées sur

les réseaux sociaux, qui représentent le

vrai problème. Les deepfakes sont

juste un sous­problème, qui dépend de

cette question bien plus large. Le vrai

problème, c’est Facebook. »

Si le monde du divertissement l’a

contacté pour lui demander de réali­

ser des deepfakes, il assure, en revan­

che, ne l’avoir jamais été par des per­

sonnes ayant de moins bonnes in­

tentions. « Et, si jamais ça devait arri­

ver, je les bloquerais. »

m. t.

Ctrl Shift Face, le Slovaque anonyme star des « deepfakes »