La technologie mandatée par le UK Online Safety Bill “pourrait transformer les téléphones en outils de surveillance”

La technologie mandatée par le projet de loi sur la sécurité en ligne du gouvernement britannique pourrait être utilisée pour transformer des millions de téléphones en outils de reconnaissance faciale.

C’est ce que révèle une nouvelle étude de l’Imperial College de Londres qui a examiné les implications potentielles en matière de confidentialité d’un outil appelé analyse côté client (CSS). Dans le cadre du projet de loi sur la sécurité en ligne, CSS serait introduit pour signaler lorsque des personnes essaient de partager des images connues pour être du contenu illégal, telles que des images de maltraitance d’enfants, avant qu’elles ne soient cryptées et envoyées.

La nouvelle recherche montre qu’il serait possible pour les gouvernements d’utiliser CSS pour rechercher les messages privés des gens, par exemple en effectuant une reconnaissance faciale, à leur insu.

Le projet de loi sur la sécurité en ligne est actuellement en cours d’examen au parlement britannique. CSS fait également partie d’une proposition de l’UE qui, si elle est adoptée, pourrait imposer son installation sur des centaines de millions de téléphones. Il a déjà été développé aux États-Unis par des entreprises comme Apple.

Le nouveau document est présenté et publié la semaine prochaine à l’IEEE Security and Privacy, l’une des principales conférences sur la sécurité au monde. L’auteur correspondant, le Dr Yves-Alexandre de Montjoye, du département d’informatique de l’Imperial College de Londres, a déclaré : “Ce projet de loi rendrait obligatoire l’installation d’un logiciel pour vérifier que vous ne partagez pas d’images connues pour contenir du matériel d’abus sexuels sur des enfants”.

“Mais ce que montre notre article, c’est que le logiciel pourrait être construit ou modifié pour inclure d’autres fonctionnalités cachées telles que la numérisation du contenu privé des téléphones de centaines de millions de personnes utilisant la reconnaissance faciale, la même technologie utilisée aux portes des aéroports.”

Activité en ligne illégale

Les gouvernements craignent depuis longtemps que le chiffrement de bout en bout – la fonction utilisée par les applications de messagerie comme WhatsApp et Signal qui garantit que seuls l’expéditeur et le destinataire prévu d’un message peuvent le lire – empêche les forces de l’ordre d’accéder aux messages au contenu illégal.

Pour faire face à ce risque perçu, le projet de loi proposé obligerait les applications à installer CSS, qui numériserait les images sur un téléphone avant qu’elles ne soient cryptées et envoyées.

Le logiciel comparerait la signature d’images de contenus illégaux connus à partir d’une base de données officielle. Une « correspondance » indiquerait que le contenu est connu pour être illégal et qu’il serait signalé et partagé avec les agences criminelles, sans cryptage.

Cependant, les chercheurs affirment que leurs découvertes montrent que nous ne comprenons pas assez bien les risques pour imposer leur déploiement sur des centaines de millions d’appareils.

Pour mener à bien l’étude, l’équipe a recréé les algorithmes qui sous-tendent CSS, pour faire correspondre la signature des images à la base de données de contenus illégaux connus. Ils ont ensuite appris au logiciel à analyser également le contenu à la recherche de visages recherchés. Ils montrent que leur logiciel est indiscernable de l’original tout en étant très précis pour identifier les visages des personnes recherchées sur les photos des personnes.

Le co-auteur Shubham Jain, également du département informatique d’Imperial, a déclaré : « Il est extrêmement important de lutter contre les contenus illégaux en ligne et nous devons le faire de manière efficace. Cependant, CSS menace d’ajouter une porte dérobée dans les appareils personnels, sacrifiant la vie privée de millions de personnes. .”

Le Dr de Montjoye a déclaré : « Nous sommes d’avis que la numérisation côté client n’est pas la technologie « à usage unique » inoffensive comme elle a été décrite au Parlement. Nous appelons les décideurs politiques à évaluer en profondeur les avantages et les inconvénients de la numérisation côté client, y compris le risque d’abus, avant d’adopter des lois rendant obligatoire son installation sur des millions de téléphones.”