Des centaines de publicités sexuelles utilisant des deepfakes ont été diffusées sur les réseaux sociaux

Une campagne publicitaire massive lancée cette semaine par une application deepfake a présenté les visages des actrices Emma Watson et Scarlett Johansson.

Les publicités, diffusées sur les plateformes Meta Facebook et Instagram, mettaient en vedette une femme légèrement vêtue avec le visage d’Emma Watson imposé numériquement, alors que la femme commençait à accomplir ce qui ressemblait à un acte sexuel.

De nombreuses publicités comprenaient des légendes telles que “Remplacer le visage par n’importe qui” et “Amusez-vous avec la technologie d’échange de visage AI”.

Au cours de dimanche et lundi, l’application Deepfake FaceSwap a déployé plus de 230 publicités au total, dont 127 utilisant la ressemblance de Watson et 74 utilisant le visage de Johansson, rapporte NBC News.

Lauren Barton, étudiante en journalisme dans le Tennessee, a tweeté un enregistrement d’écran de l’annonce lorsqu’elle l’a vue sur une application distincte. Son tweet a reçu plus de 12 millions de vues.

“Cela pourrait être utilisé avec les lycéens des écoles publiques qui sont victimes d’intimidation”, a déclaré Barton. “Cela pourrait ruiner la vie de quelqu’un, il pourrait avoir des ennuis au travail. Et c’est extrêmement facile à faire et gratuit.”

Après que NBC News ait tenté de contacter Meta pour obtenir des commentaires, ils ont supprimé toutes les publicités de l’application de leurs plates-formes.

“Nos politiques interdisent le contenu pour adultes, qu’il soit généré par l’IA ou non, et nous avons interdit à cette page de faire de la publicité sur notre plate-forme”, a déclaré Meta dans un communiqué.

Apple a également supprimé l’application de son App Store après avoir été contactée par NBC News, mais elle reste disponible via Google Play où elle est classée “Teen” pour les “thèmes suggestifs”.

L’incident est un exemple de la façon dont la technologie relativement nouvelle de deepfake est déjà distribuée au public via des canaux facilement accessibles.

Bien qu’il existe des lois strictes dans tous les États concernant le partage de photos et de vidéos sexuellement explicites, seules la Californie, la Géorgie, New York et la Virginie ont actuellement des lois restreignant les médias deepfake.

Nouvelles quotidiennes de New York 2023.
Distribué par Tribune Content Agency, LLC.