Qu’est-ce que le shadowbanning ? Comment puis-je savoir si cela m’est arrivé et que puis-je faire?

Qu'est-ce que le shadowbanning ?  Comment puis-je savoir si cela m'est arrivé et que puis-je faire?

Crédit : Shutterstock

Les plateformes technologiques utilisent des algorithmes de recommandation pour contrôler la ressource clé de la société : l’attention. Avec ces algorithmes, ils peuvent discrètement rétrograder ou masquer certains contenus au lieu de simplement les bloquer ou les supprimer. Cette pratique opaque est appelée « shadowbanning ».

Alors que les plates-formes nieront souvent qu’elles s’engagent dans l’interdiction de l’ombre, il existe de nombreuses preuves que c’est bel et bien présent. Et c’est une forme problématique de modération de contenu qui a désespérément besoin d’être surveillée.

Qu’est-ce que le shadowbanning ?

En termes simples, le shadowbanning se produit lorsqu’une plate-forme réduit la visibilité du contenu sans alerter l’utilisateur. Le contenu reste potentiellement accessible, mais avec des conditions sur sa circulation.

Il peut ne plus apparaître en tant que recommandation, dans un résultat de recherche, dans un fil d’actualités ou dans les files d’attente de contenu d’autres utilisateurs. Un exemple serait d’enterrer un commentaire sous beaucoup d’autres.

Le terme « shadowbanning » est apparu pour la première fois en 2001, lorsqu’il faisait référence au fait de rendre les publications invisibles pour tout le monde sauf l’affiche dans un forum en ligne. La version actuelle de celui-ci (où le contenu est rétrogradé par des algorithmes) est beaucoup plus nuancée.

Les shadowbans se distinguent des autres approches de modération de plusieurs façons. Elles sont:

  • généralement appliqué de manière algorithmique
  • informelles, en ce sens qu’elles ne sont pas explicitement communiquées
  • ambigus, car ils ne punissent pas de manière décisive les utilisateurs qui violent les politiques de la plate-forme.

Sur quelles plateformes shadowban le contenu ?

Des plateformes comme Instagram, Facebook et Twitter refusent généralement d’effectuer des shadowbans, mais le font généralement en se référant à la compréhension originale de 2001 de celui-ci.

Lorsque le shadowbanning a été signalé, les plates-formes l’ont expliqué en citant des problèmes techniques, l’incapacité des utilisateurs à créer du contenu engageant ou par hasard via des algorithmes de boîte noire.

Cela dit, la plupart des plateformes admettront une réduction de visibilité ou une « rétrogradation » du contenu. Et c’est toujours du shadowbanning car le terme est maintenant utilisé.

En 2018, Facebook et Instagram sont devenus les premières grandes plates-formes à admettre qu’ils réduisaient de manière algorithmique l’engagement des utilisateurs avec un contenu “limite” – qui, selon les mots du PDG de Meta, Mark Zuckerberg, incluait “un contenu sensationnaliste et provocateur”.

YouTube, Twitter, LinkedIn et TikTok ont ​​depuis annoncé des stratégies similaires pour traiter les contenus sensibles.

Dans une enquête menée auprès de 1 006 utilisateurs de médias sociaux, 9,2 % ont déclaré avoir été bannis. Parmi ceux-ci, 8,1 % étaient sur Facebook, 4,1 % sur Twitter, 3,8 % sur Instagram, 3,2 % sur TikTok, 1,3 % sur Discord, 1 % sur Tumblr et moins de 1 % sur YouTube, Twitch, Reddit, NextDoor, Pinterest, Snapchat et LinkedIn.

D’autres preuves de shadowbanning proviennent d’enquêtes, d’entretiens, de dénonciateurs internes, de fuites d’informations, de journalisme d’investigation et d’analyses empiriques par des chercheurs.

Pourquoi les plateformes shadowban ?

Les experts pensent que le shadowbanning par les plateformes a probablement augmenté en réponse aux critiques concernant le traitement inadéquat de la désinformation par les grandes technologies. Au fil du temps, la modération est devenue un problème de plus en plus politisé, et le shadowbanning offre une solution de facilité.

L’objectif est d’atténuer le contenu « licite mais affreux ». Ce contenu se négocie sous différents noms selon les plates-formes, qu’il soit qualifié de “limite”, “sensible”, “nocif”, “indésirable” ou “répréhensible”.

Grâce au shadowbanning, les plates-formes peuvent esquiver la responsabilité et éviter les protestations contre la “censure”. Dans le même temps, ils bénéficient toujours financièrement du contenu shadowbanned qui est perpétuellement recherché.

Qui est banni de l’ombre ?

Des études récentes ont révélé qu’entre 3 % et 6,2 % des comptes Twitter échantillonnés avaient été bannis au moins une fois.

La recherche a identifié des caractéristiques spécifiques qui augmentaient la probabilité que des messages ou des comptes soient bannis :

  • nouveaux comptes (moins de deux semaines) avec moins d’abonnés (moins de 200)
  • langage incivil utilisé, comme des termes négatifs ou offensants
  • photos postées sans texte
  • comptes affichant un comportement de type bot.

Sur Twitter, avoir un compte vérifié (une coche bleue) réduisait les chances d’être banni de l’ombre.

Il est particulièrement préoccupant de constater que l’interdiction de l’ombre cible de manière disproportionnée les personnes appartenant à des groupes marginalisés. En 2020, TikTok a dû s’excuser d’avoir marginalisé la communauté noire à travers son filtre “Black Lives Matter”. En 2021, les utilisateurs de TikTok ont ​​signalé que l’utilisation du mot “Black” dans leur page bio conduirait à ce que leur contenu soit signalé comme “inapproprié”. Et en février 2022, les mots-clés liés au mouvement LGBTQ+ se sont avérés interdits.

Dans l’ensemble, les utilisateurs noirs, LQBTQ + et républicains signalent une modération de contenu plus fréquente et plus sévère sur Facebook, Twitter, Instagram et TikTok.

Comment savoir si vous avez été shadowbanned ?

Détecter le shadowbanning est difficile. Cependant, vous pouvez essayer de déterminer si cela vous est arrivé de plusieurs manières :

  • classez les performances du contenu en question par rapport à vos niveaux d’engagement “normaux” – si un certain message a été largement sous-performé sans raison apparente, il peut avoir été shadowbanned

  • demandez aux autres d’utiliser leurs comptes pour rechercher votre contenu, mais gardez à l’esprit que s’ils sont un “ami” ou un “abonné”, ils peuvent toujours voir votre contenu shadowbanned, contrairement aux autres utilisateurs

  • comparer la portée de votre contenu par rapport au contenu d’autres personnes ayant un engagement comparable. Par exemple, un créateur de contenu noir peut comparer ses vues TikTok à celles d’un créateur blanc avec un suivi similaire.

  • référez-vous aux outils de détection shadowban disponibles pour différentes plateformes telles que Reddit (r/CommentRemovalChecker) ou Twitter (hisubway).

Que peuvent faire les utilisateurs à propos du shadowbanning ?

Les shadowbans durent plus ou moins longtemps en fonction du contenu et de la plate-forme rétrogradés. Sur TikTok, on dit qu’ils durent environ deux semaines. Si votre compte ou votre contenu est shadowbanned, il n’y a pas beaucoup d’options pour inverser immédiatement cela.

Mais certaines stratégies peuvent aider à réduire le risque que cela se produise, comme l’ont découvert les chercheurs. L’une consiste à s’autocensurer. Par exemple, les utilisateurs peuvent éviter les étiquettes d’identification ethnique telles que “AsianWomen”.

Les utilisateurs peuvent également expérimenter des outils externes qui estiment la probabilité que le contenu soit signalé, puis manipuler le contenu afin qu’il soit moins susceptible d’être capté par des algorithmes. Si certains termes sont susceptibles d’être signalés, ils utiliseront des alternatives phonétiquement similaires, comme “SEGGS” au lieu de “sexe”.

Le shadowbanning entrave le libre échange des idées et exclut les minorités. Il peut être exploité par des trolls signalant faussement du contenu. Cela peut causer un préjudice financier aux utilisateurs qui tentent de monétiser le contenu. Il peut même déclencher une détresse émotionnelle par l’isolement.

Dans un premier temps, nous devons exiger la transparence des plateformes sur leurs politiques d’interdiction des ombres et leur application. Cette pratique a des ramifications potentiellement graves pour les individus et la société. Pour y remédier, nous devrons l’examiner avec toute la minutie qu’il mérite.

Fourni par La Conversation

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l’article d’origine.La conversation

Citation: Qu’est-ce que le shadowbanning ? Comment puis-je savoir si cela m’est arrivé et que puis-je faire? (2022, 3 novembre) récupéré le 3 novembre 2022 sur https://techxplore.com/news/2022-11-shadowbanning.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.