Un moyen de repérer les visages générés par ordinateur

Un moyen de repérer les visages générés par ordinateur

Structures anatomiques d’un œil humain. En bas : exemples d’élèves de vrais humains (à gauche) et générés par le GAN (à droite). Notez que les pupilles des vrais yeux ont une forte forme circulaire ou elliptique (jaune) tandis que celles des pupilles générées par GAN sont de formes irrégulières (rouge). De plus, les formes des deux pupilles sont très différentes l’une de l’autre dans l’image du visage générée par le GAN. Crédit: arXiv:2109.00162v1 [cs.CV]

Une petite équipe de chercheurs de l’Université d’État de New York à Albany, de l’Université d’État de New York à Buffalo et de Keya Medical a découvert un défaut commun dans les visages générés par ordinateur permettant de les identifier. Le groupe a rédigé un article décrivant leurs découvertes et les a téléchargées sur le serveur de préimpression arXiv.

Au cours des deux dernières années, des images et des vidéos deepfake ont fait l’actualité, car des amateurs et des éditeurs professionnels ont créé des images et des vidéos qui montrent des personnes faisant des choses qu’elles n’ont jamais faites. Moins signalée mais liée est l’utilisation accrue d’images générées par ordinateur de personnes qui ont l’air humaines mais qui n’ont jamais réellement existé. Ces images sont créées à l’aide de réseaux d’adversaires génératifs (GAN), et elles auraient commencé à apparaître sur de faux profils d’utilisateurs de médias sociaux, ce qui permet la pêche au chat et d’autres types d’activités néfastes.

Les GAN sont une forme de technologie d’apprentissage en profondeur : un réseau de neurones est formé sur des images pour apprendre à quoi ressemblent les têtes et les visages humains. Ensuite, ils peuvent générer de nouveaux visages à partir de zéro. Le résultat peut être considéré comme l’apparence moyenne de toutes les personnes étudiées par le réseau. Le visage généré est ensuite envoyé à un autre réseau de neurones qui essaie de déterminer s’il est réel ou faux. Ceux considérés comme faux sont renvoyés pour révision. Ce processus se poursuit pendant plusieurs itérations, les images résultantes devenant de plus en plus réalistes. À un moment donné, ils sont considérés comme terminés. Mais un tel traitement n’est pas parfait, bien sûr, comme le rapportent les chercheurs avec ce nouvel effort. À l’aide d’un logiciel qu’ils ont écrit, ils ont découvert que de nombreux GAN ont tendance à créer des pupilles moins rondes, qui, notent-ils, peuvent être utilisées comme marqueur de visages générés par ordinateur.

Les chercheurs notent que dans de nombreux cas, les utilisateurs peuvent simplement zoomer sur les yeux d’une personne qu’ils soupçonnent de ne pas être réelles pour repérer les irrégularités pupillaires. Ils notent également qu’il ne serait pas difficile d’écrire un logiciel pour détecter de telles erreurs et pour les sites de médias sociaux de l’utiliser pour supprimer un tel contenu. Malheureusement, ils notent également que maintenant que de telles irrégularités ont été identifiées, les personnes créant les fausses images peuvent simplement ajouter une fonctionnalité pour assurer la rondeur des élèves.


Détecter les fausses images de visage créées à la fois par des humains et des machines


Plus d’information:
Hui Guo et al, Eyes Tell All: Irregular Pupil Shapes Reveal GAN-generated Faces, arXiv:2109.00162v1 [cs.CV] arxiv.org/abs/2109.00162

© 2021 Réseau Science X

Citation: Un moyen de repérer les visages générés par ordinateur (2021, 10 septembre) récupéré le 10 septembre 2021 à partir de https://techxplore.com/news/2021-09-computer-generated.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation équitable à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.