Les deepfakes de célébrités sont partout sur TikTok. Voici pourquoi ils deviennent courants et comment vous pouvez les repérer

Les deepfakes de célébrités sont partout sur TikTok.  Voici pourquoi ils deviennent courants - et comment vous pouvez les repérer

L’une des plateformes de médias sociaux les plus populaires au monde, TikTok, héberge désormais un flux constant de vidéos deepfake.

Les deepfakes sont des vidéos dans lesquelles le visage ou le corps d’un sujet a été modifié numériquement pour le faire ressembler à quelqu’un d’autre, généralement une personne célèbre.

Un exemple notable est le compte @deeptomcriuse TikTok, qui a publié des dizaines de vidéos deepfake se faisant passer pour Tom Cruise, et a attiré quelque 3,6 millions de followers.

Dans un autre exemple, le PDG de Meta, Mark Zuckerberg, semble avouer un partage de données complotiste. Plus récemment, il y a eu un certain nombre de vidéos idiotes mettant en vedette des acteurs tels que Robert Pattinson et Keanu Reeves.

Bien que les deepfakes soient souvent utilisés de manière créative ou pour le plaisir, ils sont de plus en plus déployés dans des campagnes de désinformation, pour des usurpations d’identité et pour discréditer des personnalités publiques et des célébrités.

Et bien que la technologie nécessaire à leur fabrication soit sophistiquée, elle devient de plus en plus accessible, laissant les logiciels de détection et la réglementation à la traîne.

Une chose est sûre : les deepfakes sont là pour rester. Alors, que pouvons-nous faire à leur sujet?

Rôles variés

La manipulation de textes, d’images et de séquences est depuis longtemps un fondement de l’interactivité. Et les deepfakes ne font pas exception ; ils sont le résultat d’un désir profond de participer à la culture, à la narration, à l’art et au remix.

La technologie est largement utilisée dans les arts numériques et la satire. Il fournit des techniques plus raffinées (et moins chères) pour les insertions visuelles, par rapport aux écrans verts et aux images générées par ordinateur.

La technologie Deepfake peut également permettre des résurrections authentiques d’acteurs décédés et des reconstitutions historiques. Ils peuvent même jouer un rôle en aidant les gens à pleurer leurs proches décédés.






Le comédien Jordan Peele assure la voix off d’un deepfake avec l’ancien président américain Barack Obama.

Mais ils sont également disponibles pour une utilisation abusive

Dans le même temps, on pense que la technologie deepfake présente plusieurs problèmes sociaux tels que :

  • les deepfakes sont utilisés comme “preuve” pour d’autres fausses nouvelles et désinformations
  • les deepfakes sont utilisés pour discréditer des célébrités et d’autres personnes dont les moyens de subsistance dépendent du partage de contenu tout en maintenant une réputation
  • difficultés à fournir des images vérifiables pour la communication politique, les messages de santé et les campagnes électorales
  • les visages des gens sont utilisés dans la pornographie deepfake.

Le dernier point est particulièrement préoccupant. En 2019, la société de logiciels de détection de deepfake Deeptrace a découvert que 96 % des 14 000 deepfakes étaient de nature pornographique. Des applications gratuites telles que DeepNude 2.0, aujourd’hui disparue, ont été utilisées pour faire apparaître nues des femmes vêtues dans des séquences, souvent à des fins de vengeance pornographique et de chantage.

En Australie, les applications deepfake ont même permis aux auteurs de contourner les lois sur la “revenge porn”, un problème qui devrait bientôt s’aggraver.

Au-delà de cela, les deepfakes sont également utilisés dans l’usurpation d’identité et les escroqueries, notamment sous la forme de messages vidéo d’un “collègue” ou d’un “parent” de confiance demandant un transfert d’argent. Une étude a révélé que la fraude d’identité par manipulation numérique a coûté 20 milliards de dollars aux institutions financières américaines en 2020].

Une préoccupation grandissante

Les créateurs de deepfakes soulignent le temps et les efforts nécessaires pour rendre ces vidéos réalistes. Prenez Chris Ume, l’artiste des effets visuels et de l’IA derrière le compte TikTok @deeptomcruise. Lorsque ce compte a fait la une des journaux l’année dernière, Ume a déclaré à The Verge “vous ne pouvez pas le faire en appuyant simplement sur un bouton”.

Mais il y a de bonnes preuves que les deepfakes deviennent plus faciles à fabriquer. Des chercheurs de l’initiative Global Pulse des Nations Unies ont démontré comment des discours peuvent être simulés de manière réaliste en seulement 13 minutes.

Au fur et à mesure que de plus en plus d’applications deepfake sont développées, nous pouvons nous attendre à ce que des personnes moins qualifiées produisent de plus en plus de deepfakes authentiques. Pensez à quel point l’édition de photos a explosé au cours de la dernière décennie.

La législation, la réglementation et les logiciels de détection ont du mal à suivre les avancées de la technologie deepfake.

En 2019, Facebook a été critiqué pour ne pas avoir supprimé une vidéo trafiquée de la politicienne américaine Nancy Pelosi, après avoir été en deçà de sa définition d’un deepfake.






Deepfakes a attiré l’attention des médias l’année dernière, avec des vidéos se faisant passer pour l’acteur hollywoodien Tom Cruise qui sont devenues virales.

En 2020, Twitter interdit le partage de médias synthétiques pouvant tromper, confondre ou nuire aux personnes (sauf si une étiquette est apposée). TikTok a fait de même. Et YouTube a interdit les deepfakes liés aux élections fédérales américaines de 2020.

Mais même s’il s’agit de politiques bien intentionnées, il est peu probable que les modérateurs de la plate-forme soient en mesure de réagir aux rapports et de supprimer les deepfakes assez rapidement.

En Australie, les avocats du cabinet NSW Ashurst ont déclaré que les lois existantes sur le droit d’auteur et la diffamation pourraient ne pas protéger les Australiens contre les deepfakes.

Et si des tentatives d’élaboration de lois ont commencé à l’étranger, elles se concentrent sur la communication politique. Par exemple, la Californie a rendu illégale la publication ou la distribution de contenu manipulé numériquement d’un candidat lors d’une élection, mais n’offre aucune protection aux non-politiciens ou aux célébrités.

Comment détecter un deepfake

L’un des meilleurs remèdes contre les deepfakes nuisibles est que les utilisateurs se dotent d’autant de compétences de détection que possible.

Habituellement, le premier signe d’un deepfake est que quelque chose va sembler “off”. Si c’est le cas, regardez de plus près le visage du sujet et demandez-vous :

  • le visage est-il trop lisse ou y a-t-il des ombres inhabituelles sur les pommettes ?
  • les mouvements des paupières et de la bouche semblent-ils décousus, forcés ou non naturels ?
  • les cheveux ont-ils l’air faux? La technologie deepfake actuelle a du mal à conserver l’aspect original des cheveux (en particulier des poils du visage).

Le contexte est également important :

  • demandez-vous ce que le personnage dit ou fait. Est-ce qu’ils désavouent les vaccins ou jouent dans un clip porno ? Tout ce qui semble hors de caractère ou contraire à la notoriété publique sera pertinent ici
  • rechercher en ligne des mots clés sur la vidéo ou la personne qui y figure, car de nombreux deepfakes suspects auront déjà été démystifiés
  • essayez de juger de la fiabilité de la source – semble-t-elle authentique ? Si vous êtes sur une plate-forme de médias sociaux, le compte de l’affiche est-il vérifié ?

Une grande partie de ce qui précède est une littératie numérique de base et nécessite de faire preuve de bon jugement. Là où le bon sens échoue, il existe des moyens plus approfondis pour essayer de repérer les deepfakes. Tu peux:

  • rechercher des mots-clés utilisés dans la vidéo pour voir s’il existe une transcription publique de ce qui se dit – les médias couvrent souvent les citations de politiciens et de célébrités de premier plan dans les 72 heures
  • prenez une capture d’écran de la vidéo en cours de lecture et effectuez une recherche d’image inversée Google. Cela peut révéler si une version originale de la vidéo existe, que vous pourrez ensuite comparer à la version douteuse
  • diffuser directement toute vidéo suspecte mettant en scène un « collègue » ou un « parent » par cette personne.

Enfin, si vous parvenez à repérer un deepfake, ne le gardez pas pour vous. Appuyez toujours sur le bouton de rapport.


L’IA et les deepfakes présentent de nouveaux risques pour les relations sur Internet


Fourni par La Conversation

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l’article d’origine.La conversation

Citation: Les deepfakes de célébrités sont partout sur TikTok. Voici pourquoi ils deviennent courants et comment vous pouvez les repérer (2022, 19 juillet) récupéré le 19 juillet 2022 sur https://techxplore.com/news/2022-07-celebrity-deepfakes-tiktok-theyre-common.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.