Pouvez-vous repérer les robots ? Une nouvelle étude dit non

Pouvez-vous repérer les robots ?  Une nouvelle étude dit non

Exemples de profils générés présentés au cours de l’expérience. Crédit: arXiv (2022). DOI : 10.48550/arxiv.2209.07214

Jusqu’à récemment, il était difficile de créer de faux profils de médias sociaux convaincants à grande échelle, car les images pouvaient être retracées jusqu’à leur source et le texte ne sonnait souvent pas comme un être humain.

Aujourd’hui, avec les progrès rapides de l’intelligence artificielle, il devient de plus en plus difficile de faire la différence. Des chercheurs de la Copenhagen Business School ont décidé de mener une expérience avec 375 participants pour tester la difficulté à faire la distinction entre les vrais et les faux profils de réseaux sociaux.

Ils ont constaté que les participants étaient incapables de faire la différence entre les faux comptes Twitter générés artificiellement et les vrais, et en fait, ils percevaient que les faux comptes étaient moins susceptibles d’être faux que les vrais.

Les chercheurs ont créé leur propre fil twitter factice dont le sujet était la guerre en Ukraine. Le flux comprenait des profils réels et générés avec des tweets prenant en charge les deux côtés. Les faux profils utilisaient des images de profil synthétiques générées par ordinateur créées avec StyleGAN et des messages générés par GPT-3, le même modèle de langage qui est derrière ChatGPT.

“Il est intéressant de noter que les comptes les plus controversés sur les questions d’exactitude et de probabilité appartenaient aux vrais humains. L’un des vrais profils a été mal étiqueté comme faux par 41,5 % des participants qui l’ont vu. Pendant ce temps, l’un des faux profils les plus performants n’était que de 10 % d’entre eux sont étiquetés comme des bots”, déclare Sippo Rossi, titulaire d’un doctorat. Fellow du Center for Business Data Analytics du Département de numérisation de la Copenhagen Business School.

“Nos résultats suggèrent que la technologie de création de faux profils générés a tellement progressé qu’il est difficile de les distinguer des vrais profils”, ajoute-t-il.

La recherche a été présentée à la Conférence internationale d’Hawaï sur les sciences des systèmes (HICSS), et l’article est disponible sur le site arXiv serveur de préimpression.

Potentiel d’abus

“Auparavant, il fallait beaucoup de travail pour créer de faux profils réalistes. Il y a cinq ans, l’utilisateur moyen n’avait pas la technologie pour créer de faux profils à cette échelle et avec cette facilité. Aujourd’hui, il est très accessible et disponible pour le plus grand nombre, pas seulement pour quelques-uns, ” déclare le co-auteur Raghava Rao Mukkamala, directeur du Centre d’analyse des données commerciales du Département de numérisation de la Copenhagen Business School.

De la manipulation politique à la désinformation en passant par la cyberintimidation et la cybercriminalité, la prolifération des profils de médias sociaux générés par le deep learning a des implications importantes pour la société et la démocratie dans son ensemble.

“Les gouvernements autoritaires inondent les médias sociaux de personnes apparemment favorables à la manipulation des informations. Il est donc essentiel d’examiner attentivement les conséquences potentielles de ces technologies et de travailler à atténuer ces impacts négatifs”, ajoute Raghava Rao Mukkamala.

La recherche future

Les chercheurs ont utilisé un cadre simplifié où les participants ont vu un tweet et les informations de profil du compte qui l’a publié, la prochaine étape de recherche sera de voir si les bots peuvent être correctement identifiés à partir d’une discussion de fil d’actualité où différents faux et vrais profils commentent sur un article de presse spécifique dans le même fil.

“Nous avons besoin de nouveaux moyens et de nouvelles méthodes pour gérer cela, car il est désormais pratiquement impossible de remettre le génie dans la lampe. Si les humains sont incapables de détecter les faux profils et les faux messages et de les signaler, cela devra être le rôle de la détection automatisée. , comme la suppression des comptes et la vérification de l’identité et le développement d’autres protections par les entreprises exploitant ces sites de réseaux sociaux », ajoute Sippo Rossi.

“Pour l’instant, mon conseil serait de ne faire confiance qu’aux personnes que vous connaissez sur les réseaux sociaux”, conclut Sippo Rossi.

Plus d’information:
Sippo Rossi et al, Les profils de médias sociaux générés par le Deep Learning sont-ils indiscernables des vrais profils ?, arXiv (2022). DOI : 10.48550/arxiv.2209.07214

Informations sur la revue :
arXiv

Fourni par Copenhagen Business School

Citation: Pouvez-vous repérer les bots ? Une nouvelle recherche dit non (15 mars 2023) récupérée le 30 mars 2023 sur https://Testeur Joe.com/news/2023-03-bots.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.

Laisser un commentaire