par Snapchat a lancé le contrôle parental sur son application l’année dernière via la nouvelle fonctionnalité “Family Center”. Aujourd’hui, la société a annoncé par le biais d’un message sur son centre de confidentialité et de sécurité en ligne qu’elle ajouterait désormais des fonctionnalités de filtrage de contenu qui permettront aux parents d’empêcher les adolescents d’être exposés à du contenu identifié comme sensible ou suggestif.
Pour activer la fonctionnalité, les parents peuvent activer le filtre “Restrict Sensitive Content” dans le Family Center de Snapchat. Une fois activé, les adolescents ne verront plus le contenu bloqué sur Stories et Spotlight – la courte section vidéo de la plate-forme. Le texte sous la bascule indique que l’activation de ce filtre n’aura pas d’impact sur le contenu partagé dans le chat, les snaps et la recherche.
Accompagnant ce changement, Snapchat publie également ses directives de contenu pour la première fois afin de donner aux créateurs sur Stories et Spotlight plus d’informations sur le type de messages qui peuvent être recommandés sur sa plate-forme et sur le contenu qui sera désormais considéré comme “sensible” selon ses directives communautaires. La plate-forme a déclaré qu’elle avait partagé ces directives avec un ensemble de créateurs dans le cadre du programme Snap Stars et avec ses partenaires médias, mais maintenant, la société les met à la disposition de tous via une page sur son site Web.
La société interdit déjà les contenus tels que les contenus haineux, le terrorisme, l’extrémisme violent, les activités illégales, les informations fausses ou trompeuses nuisibles, le harcèlement et l’intimidation, les menaces de violence, etc., d’apparaître sur sa plate-forme. Mais maintenant, les directives précisent quel contenu dans différentes catégories sera considéré comme “sensible”. Il s’agit de contenus qui peuvent être éligibles à la recommandation, mais qui peuvent être bloqués pour les adolescents dans le cadre de ces nouveaux contrôles, ou pour d’autres utilisateurs de l’application en fonction de leur âge, de leur emplacement ou de leurs préférences personnelles.
Par exemple, dans la catégorie du contenu sexuel, Snap explique que le contenu sera considéré comme “sensible” s’il inclut “toute la nudité, ainsi que toutes les représentations d’activité sexuelle, même habillées, et même si les images ne sont pas réelles” (telles que comme dans le cas des images d’IA, ainsi qu’un “langage explicite” décrivant les actes sexuels et d’autres choses liées au sexe, comme le travail du sexe, les tabous, les organes génitaux, les jouets sexuels, “l’imagerie ouvertement suggestive”, le “contenu sexuel insensible ou dégradant” et “Médias manipulés”.
Il traite également de ce qui sera considéré comme sensible dans d’autres catégories, y compris le harcèlement, le contenu dérangeant ou violent, les informations fausses ou trompeuses, les activités illégales ou réglementées, le contenu haineux, le terrorisme et l’extrémisme violent, et le contenu commercial (sollicitation manifeste d’acheter auprès de non- créateurs agréés). Cela comprend une gamme de contenus, tels que des représentations de drogues, des appâts de fiançailles (“attendez-le”), l’automutilation, des modifications corporelles, du gore, la violence dans les actualités, des images graphiques de maladies physiques humaines, la souffrance animale, une couverture sensationnelle de la distribution incidents, comme des crimes violents ou sexuels, des comportements dangereux et bien plus encore.
Les changements interviennent bien après une audience du Congrès de 2021 au cours de laquelle Snap a été invité à montrer du contenu pour adultes dans le flux Discover de l’application, comme des invitations à des jeux vidéo sexualisés et des articles sur les bars ou la pornographie. Comme les sénateurs l’ont souligné à juste titre, l’application de Snap était répertoriée comme 12+ dans l’App Store, mais le contenu qu’elle partageait était clairement destiné à un public plus adulte. Même les jeux vidéo dont il faisait la publicité, dans certains cas, étaient considérés comme destinés aux utilisateurs plus âgés.
“Nous espérons que ces nouveaux outils et directives aideront les parents, les soignants, les adultes de confiance et les adolescents non seulement à personnaliser leur expérience Snapchat, mais aussi à leur permettre d’avoir des conversations productives sur leurs expériences en ligne”, a déclaré la société de médias sociaux dans un article de blog.
Cependant, bien que la nouvelle fonctionnalité puisse contribuer grandement à limiter le contenu sensible des téléspectateurs adolescents dans certaines régions, elle ne s’attaque pas à l’un des domaines que le Congrès avait appelés – le flux Discover. Ici, Snap propose du contenu d’éditeur, y compris ceux qui publient du contenu qui pourrait être considéré comme “sensible” selon ses directives. C’est franchement beaucoup de clickbait. Et pourtant, ce domaine n’est pas abordé avec les nouveaux contrôles.
De plus, la fonctionnalité oblige les parents à agir en activant une bascule dont ils ne savent probablement rien.
En bref, c’est un autre exemple de la façon dont le manque de législation et de réglementation concernant les entreprises de médias sociaux a conduit à l’autocontrôle, qui ne va pas assez loin pour protéger les jeunes utilisateurs contre les préjudices.
En plus des contrôles de contenu, Snap a déclaré qu’il travaillait sur l’ajout d’outils pour donner aux parents plus de “visibilité et de contrôle” sur l’utilisation par les adolescents du nouveau chatbot My AI.
Le mois dernier, le réseau social a lancé ce chatbot propulsé par la technologie GPT d’Open AI sous l’abonnement Snapchat+. Incidemment, l’annonce de Snapchat intervient après que le chatbot est devenu un voyou alors qu’il discutait avec un chroniqueur du Washington Post se faisant passer pour un adolescent. Le bot aurait conseillé au chroniqueur de cacher l’odeur de pot et d’alcool lors d’une fête d’anniversaire. Par ailleurs, des chercheurs du Center for Humane Technology ont découvert que le bot donnait des conseils sexuels à un utilisateur prétendant avoir 13 ans.
Les outils complémentaires ciblant le chatbot n’ont pas encore été déployés.
