Un chercheur crée un logiciel gratuit de modération des commentaires pour YouTube

Un expert de Rutgers crée un logiciel gratuit de modération des commentaires pour YouTube

Une capture d’écran de la page de catégorie de FilterBuddy. 1 crédit

En tant qu’expert dans la construction d’un Internet plus sûr et plus juste, le professeur adjoint Rutgers Shagun Jhaver soupçonnait depuis longtemps que les créateurs de contenu numérique issus de groupes minoritaires subissaient un harcèlement en ligne disproportionné. Mais lorsqu’il a entendu parler d’un YouTuber brésilien de 35 ans qui a fait une dépression nerveuse et a été hospitalisé après un déluge de haine numérique, il a décidé de faire quelque chose.

Jhaver, qui enseigne au Département de bibliothéconomie et des sciences de l’information de la Rutgers School of Communication and Information, a créé un outil de modération des commentaires pour YouTube afin de garantir que les utilisateurs comme l’hébergeur vidéo au Brésil, qui a finalement fermé sa chaîne, puissent travailler sans crainte. d’attaque. Appelé FilterBuddy, l’outil gratuit et open source est conçu pour donner aux créateurs de contenu professionnels – toute personne qui gagne sa vie en publiant sur les plateformes de médias sociaux – le pouvoir de se protéger et de protéger leur public.

Pour développer FilterBuddy, Jhaver a étudié les outils de modération de contenu fournis en standard avec des plateformes telles que YouTube, Facebook, Twitter et Twitch. Lors d’entretiens avec 19 créateurs des Amériques, d’Asie, d’Europe et du Moyen-Orient, Jhaver et ses collègues de l’Université de Washington ont découvert que les créateurs de contenu, en particulier issus de communautés sous-représentées, sont souvent attaqués pour leur apparence, leurs croyances et leurs antécédents. “Ils sont confrontés à des abus disproportionnés, ils ont donc des besoins disproportionnés”, a-t-il déclaré.

Jhaver a également appris que les outils de filtrage de mots clés fournis par les plates-formes sont difficiles à utiliser et largement inefficaces. “Ces outils sont très rudimentaires, très difficiles à faire évoluer et sur de nombreuses plateformes, vous ne pouvez même pas rechercher les règles de filtrage que vous avez configurées.”

Les résultats ont été publiés récemment dans le Actes de la conférence ACM CHI sur les facteurs humains dans les systèmes informatiques.

Sur la base de ces données, Jhaver et ses collègues ont créé un système permettant aux créateurs YouTube de prendre en charge une meilleure création, maintenance et audit des filtres de mots, qui peuvent marquer et mettre en quarantaine les commentaires potentiellement offensants avant qu’ils ne deviennent publics. FilterBuddy comprend également un aperçu interactif de capture de filtre (pour tester l’efficacité du filtre avant le déploiement), la possibilité de créer des filtres créés par d’autres et des graphiques et des tableaux de séries chronologiques pour comprendre quels commentaires sont capturés par quels filtres au fil du temps.

En fin de compte, Jhaver espère que FilterBuddy incitera les plates-formes à développer des ressources plus puissantes en interne et à faciliter la connexion des applications tierces.

“Nous avons utilisé des outils de développement standard pour créer FilterBuddy, mais les fonctionnalités sont si appréciées par la communauté et si désespérément nécessaires”, a-t-il déclaré. “Le fait que nous ayons construit ce service avec un budget restreint démontre qu’à l’heure actuelle, les plateformes ne prêtent pas assez d’attention aux besoins des créateurs.”

Plus important encore, a déclaré Jhaver, il espère que son logiciel contribuera à un espace en ligne plus sûr, pour les utilisateurs et pour les créateurs. “Personne ne devrait avoir à abandonner son travail à cause de commentaires abusifs”, a-t-il déclaré.


Facebook dit qu’un milliard de dollars seront dépensés pour stimuler les créateurs


Plus d’information:
Shagun Jhaver et al, Conception d’outils de filtrage de mots pour la modération des commentaires dirigée par les créateurs, Conférence CHI sur les facteurs humains dans les systèmes informatiques (2022). DOI : 10.1145/3491102.3517505

Fourni par l’Université Rutgers

Citation: Un chercheur crée un logiciel gratuit de modération des commentaires pour YouTube (2022, 3 mai) récupéré le 3 mai 2022 sur https://techxplore.com/news/2022-05-free-comment-moderation-software-youtube.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.