Quels sont les dangers du phénomène deepfake ?

Le 17 mars 2022, la chaîne d’information Ukraine 24 diffuse une vidéo du président ukrainien Volodymyr Zelenski en pleine invasion russe. Pendant quelques minutes, les images montrent le président appelant ses soldats à déposer les armes. Cette vidéo sème le trouble, mais elle est rapidement retirée : Volodymyr Zelenski n’a jamais fait cette déclaration. Les images ont été falsifiées. Cette falsification de vidéo est un deepfake ou un hypertrucage d’images existantes pour délivrer un message inventé. Cette nouvelle technologie à base d’intelligence artificielle (IA) révolutionne la production de contenu audio et vidéo. Mais la diffusion de deepfakes n’est pas sans danger. Dans notre monde d’images, comment allons-nous déterminer le faux du vrai ? 

Qu’est-ce que le deepfake ?

Le deepfake, c’est la contraction de deep learning (apprentissage en profondeur) et de fake (contrefait). Cette appellation contient toute la matière du procédé utilisé pour réaliser un hypertrucage.

Création et principe de la technique du deepfake

La technique du deepfake apparaît en 2016 avec le lancement du programme Voco de la société Adobe : cette application permet de reproduire la voix humaine. Les travaux de Ian Goodfellow sur le deep learning ont permis aux machines d’emmagasiner des millions de données pour apprendre encore plus précisément ce qu’est le visage et la voix d’une personne. Ces données collectées permettent de reproduire ou de créer du contenu audio et vidéo très réaliste.

Les technologies et les outils du deepfake

Le deep learning associé à l’IA a permis le développement de la technique de l’hypertrucage. Désormais, grâce à la superposition de fichiers audio et vidéo, il est possible de créer de A à Z un contenu multimédia ou de modifier un contenu existant. Et le développement rapide des technologies permet de créer des deepfakes sans matériel coûteux et sans l’utilisation de code. Les applications d’hypertrucage se multiplient et deviennent accessibles à tous. Google propose par exemple l’application Deepfake Studio. Mais vous avez également Fake App. Certaines demandent une carte graphique adaptée, mais les plus simples fonctionnent sur les smartphones Android ou Apple. Mais, pour générer un rendu hyperréaliste, l’intelligence artificielle a besoin de se nourrir de nombreuses données visuelles et sonores.

Exemples d’hypertrucages sur le web et les réseaux sociaux

En juillet 2017, la BBC diffuse un discours de Barak Obama uniquement conçu par une intelligence artificielle. Le deepfake du président américain sortant semble authentique à l’écoute. L’hypertrucage s’est rapidement épanoui dans les médias. Ainsi, depuis 2019, l’humoriste Canteloup diffuse des sketchs vidéos à base de visage et de voix falsifiés. Enfin, sur TikTok, les comptes Unreal publient de fausses vidéos avec des acteurs connus. Le compte Unreal Keanu Reeves possède 9 millions d’abonnés.

Quelles différences entre deepfake et deepface ?

Le deepface est une technique spécifique du deepfake. Elle consiste à remplacer le visage d’une personne dans une image ou dans une vidéo par celui d’une autre. Mais, le corps et la voix d’origine sont conservés. Vous pouvez ainsi faire figurer le visage d’un acteur sur le corps d’un autre dans un film dans lequel il n’a pas joué. L’IA permet de synchroniser les mouvements des lèvres et les expressions du visage. Le deepfake, c’est une technologie plus globale qui peut falsifier l’ensemble de l’image : le fond, le corps, la voix, etc. Le développement technologique est rapide. Il sera bientôt possible de générer des scènes de cinéma ou des paysages uniquement à partir d’un texte. Les deepfakes deviennent alors des illusions très convaincantes du monde réel.

Quels sont les domaines d’application dans lesquels le deepfake peut être utilisé ?

L’industrie du divertissement et de la communication s’est emparée rapidement de la technologie Deepfake. 

Cinéma, télévision, publicité : création facilitée de contenu audio et vidéo

Le public idéalise les stars de cinéma. Pour garantir le succès de leurs films, les studios utilisent la technologie des deepfakes. Ainsi, pour Top Gun Maverick (2022), l’entreprise Sonantic utilise l’intelligence artificielle pour recréer la voix de Val Kimer à partir d’archives sonores. L’acteur ne parle plus sans appareillage depuis son cancer de la gorge. Le tournage du feuilleton français Plus Belle La Vie s’est poursuivi malgré l’absence d’une comédienne devenue cas contact Covid-19. Grâce à un hypertrucage, la production a remplacé le visage d’une actrice inconnue par le sien. La publicité utilise également les deepfakes pour diminuer les coûts de casting. Une mutuelle dentaire a ainsi utilisé l’image et la voix de Tom Hanks pour promouvoir son produit en ligne. L’acteur a dénoncé la fraude : il n’avait jamais donné son consentement !

Les jeux vidéo : utilisation d’images hyperréalistes

Les jeux vidéo cherchent à produire des scènes les plus réalistes possibles. Les studios de création utilisent désormais l’IA et les deepfakes pour franchir une nouvelle étape : utiliser le visage des gamers pour doper leurs sensations.

Communication vidéo dopée grâce à la technique du deepfake

David Beckham, le célèbre footballeur anglais, a autorisé la production d’une vidéo pour sensibiliser le public au paludisme. Grâce à l’intelligence artificielle, David Beckham peut adresser son message dans neuf langues différentes pour toucher le plus grand nombre. La vidéo a recueilli près de 800 millions de vues en ligne et a été relayée par tous les grands médias.

La mode en ligne : voir l’image de la personne vêtue de ses articles

Acheter des vêtements ou des lunettes de soleil en ligne sans se tromper relève souvent du défi. Grâce à la technique de l’hypertrucage, vous pouvez essayer virtuellement les articles qui vous plaisent. Afflelou, Optic 2000 ou encore Atol offrent à leurs clients la possibilité d’essayer leurs lunettes depuis chez eux. De son côté, l’entreprise SuitUs propose une cabine d’essayage en ligne pour les marques de vêtements. Cette technologie crée un double corporel pour diminuer de 50% le nombre de retours lié au e-commerce.

Les risques liés à l’utilisation des hypertrucages

Les fausses vidéos pullulent sur les réseaux sociaux ou sur internet dans le but de faire rire le public. Mais, tous les deepfakes ne partagent pas ces objectifs humoristiques. Ils peuvent présenter un risque pour la démocratie et la vie privée.

Risques liés à la désinformation et à la manipulation des médias

Les technologies permettent aujourd’hui de générer des deepfakes de très haute définition. Leur utilisation à des fins malveillantes exploite la spontanéité des réactions du public. Les médias tombent parfois dans le piège des hypertrucages et diffusent de fausses vidéos qui suscitent l’indignation du monde entier. Lors des primaires présidentielles américaines, de fausses vidéos en ligne ont montré Donald Trump dans des situations compromettantes. Cet exemple montre que les deepfakes peuvent impacter le jeu politique. Ces hypertrucages sont souvent diffusés sur les réseaux sociaux. Mais, les médias traditionnels peu scrupuleux peuvent relayer ce type d’information pour augmenter leur audience.

Violations de la vie privée et atteintes à la réputation

Les deepfakes peuvent servir à salir la réputation d’une personne ou atteindre à sa vie privée. C’est le cas notamment des hypertrucages pornographiques. Ces derniers mettent en scène la personne visée (visage, voix) dans des situations érotiques ou dégradantes (sextapes). Ces vidéos falsifiées génèrent fréquemment du cyberharcèlement.

Les risques légaux et éthiques

La personne victime d’un deepfake peut s’appuyer sur la loi pour rétablir la vérité et obtenir une réparation. En France, il existe une protection du droit à l’image et à la voix. Une personne peut donc interdire leur utilisation par autrui dès lors qu’elle est identifiable. Le droit de la propriété intellectuelle intervient également contre les deepfakes. Modifier une vidéo sans autorisation constitue une contrefaçon de l’œuvre. Si de plus, la vidéo falsifiée est dégradante, elle porte atteinte au droit moral de l’artiste. Les articles 226-1 du Code pénal sanctionnent d’un an d’emprisonnement et de 45 000 euros d’amende la diffusion d’images compromettantes d’une personne sans son consentement. Et l’article 226-8 du Code pénal prévoit aussi un an d’emprisonnement pour la diffusion d’une vidéo falsifiée s’il n’est pas précisé que c’est un montage.

Comment détecter les deepfakes ?

L’évolution rapide de la technologie des hypertrucages rend difficile leur détection.

L’utilisation de l’apprentissage automatique pour détecter les anomalies dans les contenus multimédias

Les médias et les réseaux sociaux peuvent également utiliser le deep learning pour détecter un contenu falsifié. Amnesty International a créé deux outils (Citizen Evidence Lab, Data Viewer) pour détecter rapidement un deepfake. Et depuis 2019, Google partage une base de données de 5 000 vidéos de deepfakes pour aider les chercheurs à tester des outils de détection automatisés.

L’utilisation de techniques de cryptographie pour garantir l’intégrité des médias

Les chercheurs utilisent la cryptographie pour détecter les hypertrucages. Il s’agit d’enregistrer les métadonnées des fichiers originaux dans une blockchain pour suivre et pour vérifier l’intégrité des contenus. Le journal Le Monde utilise cette technologie.

La sensibilisation du public aux risques et aux signes révélateurs de deepfake

Pour sensibiliser le public au danger du deepfake, TikTok publie régulièrement des alertes sur ce type de vidéo. Le groupe Meta retire immédiatement une fausse vidéo après détection et publie un démenti. Les réseaux sociaux jouent ici leur crédibilité. Mais leurs initiatives laissent malgré tout l’internaute seul devant son écran : ce qu’il voit est-il vrai ou pas ? Les hypertrucages envahissent nos écrans. Les domaines d’application sont nombreux, mais laissent la porte ouverte à la fraude et à la malveillance. Il devient urgent de trouver des parades de protection efficaces.