LMD_240515

15.05.2024 - N° 1.631

Deepfake : distinguer le vrai du faux

Par Sylvain Duranton

Sylvain Duranton est un expert en technologie et innovation, actuellement Directeur associé senior chez BCG X, l'unité de conception et de construction technologique de Boston Consulting Group. Il possède une vaste expérience en intelligence artificielle, conception technique et talents de design.

En mars 2022, la chaîne nationale Ukraine 24 diffusait une vidéo truquée de Volodymyr Zelensky demandant à son peuple de rendre les armes.

Il y a quelques semaines, une vidéo de François Hollande annonçait sa candidature à l'élection présidentielle de 2027.

Plus récemment encore, des avatars des familles Maréchal et Le Pen sont apparus sur TikTok avec des personnages factices qui ont généré des millions de vues.

Chacun garde en tête cette image du pape François en doudoune blanche ou cette publicité de Cartier mettant en scène des images de synthèse de Catherine Deneuve dans Les Parapluies de Cherbourg, dans Indochine et enfin dans Place Vendôme.

Dans un autre registre, un employé d'une banque de Hong Kong a viré 25 millions de dollars à la demande de son directeur financier lors d'une visioconférence dont les protagonistes étaient des sosies numériques. Le temps que l'employé s'en rende compte, l'argent avait disparu.

Les risques des deepfakes, ces vidéos et enregistrements audio faisant tenir à des personnes réelles des propos qu'ils n'ont jamais prononcés, sont majeurs pour la démocratie bien sûr mais aussi pour la confiance des consommateurs et des employés. Le sujet « philosophique » n'est pas nouveau : comment distinguer le vrai du faux ?

Des contenus qui explosent

La construction d'un deepfake repose sur des méthodes d'apprentissage profond, les réseaux antagonistes génératifs (GANs) qui permettent de superposer et de combiner des images et des sons. Cette technologie performante et simple d'usage a permis l'explosion de ce type de contenus.

En matière de détection, le jeu du chat et de la souris a commencé dès le début des deepfakes en 2017. La méthode consistait alors à focaliser l'analyse sur des indices simples comme l'absence de clignements d'yeux dans une vidéo ou encore une synchronisation approximative entre le mouvement des lèvres et la voix.

Mais ces modèles se perfectionnent et les artefacts s'estompent rendant la détection plus ardue. Les chercheurs travaillent au développement d'algorithmes de détection plus avancés. Ils utilisent l'analyse de fréquence d'images pour révéler les anomalies imperceptibles par l'oeil humain.

Bien que ces algorithmes aient atteint des degrés de détection allant jusqu'à 90 %, ils ne sont pas infaillibles et certains deepfakes, ceux qui ont bénéficié de postproduction notamment, restent toujours indétectables.

Autre limite de cette méthode : elle ne fonctionne pas pour identifier les vidéos factices diffusées en direct sur des plateformes comme Zoom ou WebEx. Des chercheurs américains ont mis en place un système d'identification en direct de motifs imperceptibles à l'écran. Ils analysent notamment les reflets dans les yeux des participants. Cette approche profite des limites actuelles des algorithmes de deepfake qui ne savent pas réagir en temps réel à leur environnement.

L'autre technologie prometteuse est celle de la certification de l'authenticité des contenus au moment de la création par un système de signatures imperceptibles et indestructibles. Le deep learning permet de créer ces marqueurs qui sont insérés dès l'origine dans la production de contenus. Sur le modèle des bijoux de valeur, les vidéos sont ainsi certifiées.

Reste qu'aujourd'hui, l'éducation est un levier majeur de protection contre les deepfakes. Il est essentiel que chacun soit sur ses gardes et exerce son discernement.

Les Français sont-ils trop naïfs ? Seulement 33 % d'entre eux se sentent
en mesure de détecter une image ou une vidéo générée par une IA.
Les deepfakes ont décidément un bel avenir.