L’IA et les deepfakes présentent de nouveaux risques pour les relations sur Internet

pêche au chat

Crédit : Pixabay/CC0 Domaine public

Les personnes à la recherche de relations authentiques via Internet devront devenir beaucoup plus avisées sur les nouvelles technologies qui les exposent à la fraude amoureuse à un “niveau de risque entièrement nouveau”, prévient Cassandra Cross, chercheuse en fraude sur Internet à QUT.

Les escroqueries amoureuses, qui ont rapporté aux criminels 131 millions de dollars des Australiens rien qu’en 2020, sont susceptibles de devenir plus difficiles à détecter car les auteurs se tournent vers l’utilisation de l’IA (intelligence artificielle) et de la technologie deepfake pour tromper leurs victimes.

Avec la technologie deepfake, les délinquants peuvent non seulement utiliser des images facilement disponibles d’une autre personne et créer une fausse image de profil, mais ils peuvent également créer une image entièrement synthétique et un profil correspondant sans avoir à en retirer une des médias sociaux ou d’Internet d’une autre personne.

Le professeur Cross, de la QUT School of Justice, a déclaré que le public avait pris connaissance des escroqueries amoureuses et avait été conseillé d’utiliser des méthodes de détection telles qu’une recherche d’image inversée sur les images qui leur étaient envoyées afin de déterminer si l’expéditeur était celui qu’ils prétendaient être. .

“Cela signifie que les campagnes de prévention de la fraude devront être révisées pour sensibiliser les gens à cette méthode de tromperie sophistiquée et difficile à détecter”, a déclaré le professeur Cross.

“L’IA et les deepfakes rendent les recherches d’images inversées pratiquement obsolètes. Il existe un besoin critique d’améliorer la réponse technologique à l’IA et au potentiel de fraude des deepfakes car les moyens de détection disponibles sont limités.”

Le professeur Cross a déclaré que de nombreux reportages dans les médias avaient déjà documenté l’utilisation de l’IA et des deepfakes pour tromper les victimes de fraude amoureuse.

“Par exemple, une femme américaine a envoyé plusieurs sommes d’argent à un homme qu’elle croyait être un responsable de la marine américaine. Dans ce cas, l’agresseur a manipulé des images et des enregistrements accessibles au public d’un officier de la marine américaine pour créer de fausses vidéos de la personne authentique sous un identité différente », a-t-elle dit.

“En plus de permettre aux délinquants de soulever des images de personnes vivantes et de créer des profils réalistes, les logiciels de deepfake peuvent créer une image et un profil entièrement crédibles mais fictifs.

“La capacité de la technologie à générer des images uniques à utiliser dans les profils de médias sociaux a le potentiel de changer la façon dont la fraude amoureuse et d’autres pratiques trompeuses en ligne (telles que la pêche au chat) sont perpétrées.”

Le professeur Cross a déclaré que les deepfakes avaient évolué pour englober les enregistrements vocaux et constituaient un outil puissant lorsqu’ils étaient utilisés avec d’autres comportements frauduleux.

“Par exemple, dans le cadre de la fraude par compromission des e-mails professionnels (BEC), les contrevenants peuvent utiliser de faux enregistrements audio pour se faire passer pour des PDG et d’autres personnalités faisant autorité et cibler les employés de niveau inférieur avec des demandes urgentes de transfert de fonds en leur nom.

“De toute évidence, les messages de prévention doivent cibler les personnes qui utilisent les plateformes de rencontres et les plateformes de médias sociaux pour nouer des relations et, à tout le moins, alerter le public sur les risques que l’IA et les deepfakes posent dans ces domaines de leur vie.”

Le papier a été publié dans Prévention du crime et sécurité communautaire.


Une nouvelle façon de former les algorithmes de détection de deepfake améliore leur succès


Plus d’information:
Cassandra Cross, Utilisation de l’intelligence artificielle (IA) et des deepfakes pour tromper les victimes : la nécessité de repenser les messages actuels de prévention de la fraude amoureuse, Prévention du crime et sécurité communautaire (2022). DOI : 10.1057/s41300-021-00134-w

Fourni par l’Université de technologie du Queensland

Citation: L’IA et les deepfakes présentent de nouveaux risques pour les relations Internet (6 juin 2022) récupéré le 6 juin 2022 sur https://techxplore.com/news/2022-06-ai-deepfakes-internet-relationships.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.