par Le vice-président de Xbox a déclaré à Sky News “qu’il n’y a pas de solution miracle” pour protéger les femmes et les groupes minoritaires sur Internet qui subissent du harcèlement et des abus en ligne.
Dave McCarthy a déclaré qu’il suffit d’une seule expérience toxique sur une plate-forme et que “votre confiance dans un espace en ligne se dissipe immédiatement, comme il se doit”.
Dans une interview décrivant l’engagement renouvelé de Microsoft Xbox envers la sécurité en ligne, M. McCarthy a parlé à Sky News des outils utilisés par le géant du jeu pour assurer la sécurité des enfants et des autres sur sa plate-forme.
“C’est une chose en cours sur laquelle nous devons nous débrouiller et nous avons ces outils en place et nous nous tenons responsables”, a-t-il déclaré.
L’une de ces mesures, dit-il, est le déploiement de l’intelligence artificielle, qui passe au crible des milliards de messages et d’images sur la plate-forme Xbox identifiant les comportements abusifs.
“Il existe des solutions d’IA déployées dans la détection de choses comme les comptes de robots qui causent des problèmes”, a-t-il déclaré.
M. McCarthy a déclaré que Xbox utilise divers modèles d’apprentissage de l’IA, citant ChatGPT comme exemple d’une telle fonction d’apprentissage basée sur la machine.
L’IA trouve les comptes de robots abusifs en identifiant les modèles de certains comportements.
Mais M. McCarthy a souligné la nécessité “d’augmenter” également cette intelligence artificielle avec l’intelligence humaine.
“Bien que ces algorithmes de détection nous permettent de trouver les aiguilles dans la botte de foin à grande échelle, nous avons toujours besoin d’humains pour valider que ces choses se passent”, a-t-il déclaré.
Il a déclaré que Xbox employait des spécialistes du langage pour travailler aux côtés de son IA, afin d’identifier les dernières formes de langage et d’euphémismes utilisés pour harceler ou propager la haine en ligne.
Vice-président corporatif de Xbox, Dave McCarthy
Importance du processus d’appel
Interrogé sur les raisons pour lesquelles les joueurs de la plate-forme Xbox devraient être sûrs que leurs préoccupations seront entendues et prises en compte, M. McCarthy a évoqué la procédure d’appel.
“Cela va sembler étrange, mais avoir un processus d’appel est en fait une chose forte pour nous, car cela montre aux gens que nous écoutons et que nous examinons plusieurs choses et qu’ils ont un plan d’action”, a-t-il déclaré.
“C’est un voyage qui n’est jamais terminé. Nous avons fait des progrès dans des domaines comme l’accessibilité et la durabilité, mais ce n’est que la pointe de l’iceberg à certains égards. Nous n’en avons jamais fini dans cet espace.”
En vertu des amendements au projet de loi sur la sécurité en ligne, très controversé, les patrons de la technologie pourraient encourir jusqu’à deux ans de prison pour ne pas avoir protégé les enfants en ligne.
Le projet de loi obligerait les gestionnaires de plateformes hébergeant du contenu généré par les utilisateurs à prendre des “mesures proportionnées” pour protéger les enfants des contenus préjudiciables.
Mesures pour protéger les enfants
M. McCarthy a souligné les mesures prises par Xbox pour protéger les enfants, notamment en utilisant sa célèbre franchise Minecraft pour éduquer les enfants dans des domaines tels que la protection des données.
Le programme éducatif Minecraft Privacy Prodigy enseigne aux enfants comment protéger leurs données et rester en sécurité en ligne.
L’initiative fait suite aux appels d’Alicia Kearns, présidente du comité restreint des affaires étrangères, sur Sky’s Sophie Ridge dimanche, pour que les Britanniques suppriment l’application vidéo populaire auprès des enfants, TikTok, de leurs téléphones pour empêcher la prétendue collecte de renseignements chinois.
En savoir plus:
Les patrons des médias sociaux pourraient être emprisonnés après que Sunak ait reculé sur le projet de loi sur la sécurité en ligne
Quatre adultes sur cinq veulent que les patrons des médias sociaux soient tenus légalement responsables si des enfants sont blessés par le contenu
Pourquoi le projet de loi sur la sécurité en ligne est si controversé
Le patron de Xbox a déclaré à Sky News que Microsoft travaillait en étroite collaboration avec des politiciens aux États-Unis et au Royaume-Uni sur des réformes législatives en matière de sécurité.
“J’ai eu le plaisir de participer l’automne dernier à la Westminster Games Week, qui est une discussion très encourageante que l’industrie a avec le gouvernement.
“Mon expérience personnelle des organismes de réglementation, y compris le Royaume-Uni, est qu’ils sont très accueillants pour le dialogue.”
Il a appelé à une “grande législation” pour s’assurer que les grandes technologies atteignent les normes qu’elles devraient respecter.
Le projet de loi sur la sécurité en ligne est actuellement examiné à la Chambre des lords, après que les députés l’ont approuvé en janvier.
