Pourquoi nous ne devrions pas interdire complètement à la police de l’utiliser

Reconnaissance faciale : pourquoi il ne faut pas interdire complètement à la police de l'utiliser

Toute force de police britannique peut utiliser la reconnaissance faciale dans le cadre juridique actuel. Trismégiste San, Shutterstock

La police britannique est accusée d’avoir enfreint les normes éthiques en utilisant la technologie de reconnaissance faciale en direct pour lutter contre le crime. Un rapport récent de l’Université de Cambridge sur les essais de la technologie par les forces à Londres et dans le sud du Pays de Galles s’est particulièrement inquiété du “manque de réparation solide” pour quiconque subissant un préjudice. Il a évoqué la nécessité de “protéger les droits de l’homme et d’améliorer la responsabilité” avant que la reconnaissance faciale ne soit plus largement utilisée.

L’équipe de Cambridge veut une large interdiction à la police d’utiliser la technologie, et elle n’est pas la seule. Le groupe britannique de défense des libertés civiles Big Brother Watch a mené une campagne “Stop à la reconnaissance faciale” alors que le gouvernement réfléchit à la manière de réglementer les technologies d’IA. Pendant ce temps, 12 ONG ont récemment appelé les législateurs de l’UE à l’interdire complètement, ainsi que diverses autres formes d’identification biométrique, dans leur prochaine loi sur l’IA.

Cependant, interdire purement et simplement cette technologie serait une erreur. À mon avis, il y a de bonnes raisons d’adopter une approche plus mesurée.

Utilisation croissante de la police

Les forces de police de Londres et du sud du Pays de Galles semblent être les deux seules au Royaume-Uni à utiliser actuellement la reconnaissance faciale en direct, qui utilise un logiciel d’intelligence artificielle pour comparer l’image faciale numérique d’un individu avec une image faciale existante pour estimer la similitude. La police de Manchester l’a testé mais a été forcée de faire une pause par le commissaire aux caméras de surveillance en 2018 pour ne pas avoir obtenu les approbations nécessaires.

En 2020, une cour d’appel s’est également prononcée contre l’utilisation de la technologie par le sud du Pays de Galles, concluant que le cadre juridique de déploiement de la force leur donnait effectivement un pouvoir discrétionnaire illimité pour le faire. Peu importait au tribunal que la police ait avisé le public (ce qu’on appelle un déploiement opérationnel manifeste).

Malgré cette décision, la reconnaissance faciale peut encore être largement utilisée par la police, bien que de nombreuses autres forces aient déclaré ne pas le faire actuellement.

La police métropolitaine de Londres utilise de plus en plus la reconnaissance faciale pour localiser les personnes disparues, les suspects, les témoins et les victimes. Ils ont scanné les visages d’individus sur les places de la ville et lors d’événements publics, à l’aide d’une caméra de reconnaissance faciale généralement placée sur un véhicule de police ou un poteau de rue. Le public est alerté du déploiement par des avis lorsqu’il entre dans la zone de reconnaissance, à moins que cela ne compromette les tactiques de maintien de l’ordre ou que le déploiement ne soit urgent.

Entre février 2020 et juillet 2022, le Met a déployé la technologie dans huit endroits, dont Piccadilly Circus. On estime qu’ils ont vu plus de 150 000 visages, ce qui a conduit à neuf arrestations mais aussi à huit reprises où ils ont ciblé la mauvaise personne.

Les avantages et les inconvénients

La reconnaissance faciale a évolué ces dernières années, par exemple pour fonctionner en temps réel, mais des imprécisions et des erreurs subsistent. Dans le New Jersey, 228 arrestations injustifiées auraient été effectuées à l’aide de la reconnaissance faciale (non en temps réel) entre janvier 2019 et avril 2021. Un Noir américain a passé 11 jours en prison après avoir été identifié à tort. Les fausses identifications peuvent également conduire à tout, des vols manqués aux interrogatoires de police pénibles.

Des groupes spécifiques sont touchés de manière disproportionnée. Une étude américaine de 2019 a révélé que les femmes sont deux à cinq fois plus susceptibles d’être faussement identifiées, tandis que les risques sont dix à 100 fois plus élevés pour les visages noirs et asiatiques que pour les blancs. Étant donné que la police arrête et fouille déjà de manière disproportionnée les minorités ethniques, cette lacune de la technologie pourrait même être utilisée pour soutenir de telles pratiques.

Un autre risque est que la police installe secrètement des caméras de reconnaissance faciale en permanence. Cela pourrait aider l’État à réprimer les manifestations publiques, par exemple. Il y a déjà une contestation judiciaire en cours contre la Russie devant la Cour européenne des droits de l’homme pour de telles pratiques, et la peur de la surveillance de l’État est l’une des raisons pour lesquelles beaucoup veulent interdire cette technologie.

Néanmoins, la reconnaissance faciale a ses avantages. Cela peut aider la police à retrouver des criminels graves, y compris des terroristes, sans parler des enfants disparus et des personnes risquant de se blesser ou de blesser autrui.

Qu’on le veuille ou non, nous vivons également déjà sous un capitalisme colossal de surveillance d’entreprise. Le Royaume-Uni et les États-Unis comptent parmi les caméras de vidéosurveillance les plus installées au monde. Les résidents de Londres sont filmés 300 fois par jour en moyenne, et la police peut généralement utiliser les données sans mandat de perquisition. Comme si cela ne suffisait pas, les grandes entreprises technologiques connaissent presque tout ce qui est personnel à notre sujet. S’inquiéter de la reconnaissance faciale en direct est incompatible avec notre tolérance à toute cette surveillance.

Une meilleure approche

Au lieu d’une interdiction pure et simple, même de la reconnaissance faciale secrète, je suis en faveur d’une loi statutaire pour clarifier quand cette technologie peut être déployée. D’une part, la police britannique peut actuellement l’utiliser pour suivre les personnes sur leurs listes de surveillance, mais cela peut inclure même les personnes accusées de délits mineurs. Il n’y a pas non plus de critères uniformes pour décider qui peut être inscrit.

En vertu de la proposition de loi de l’UE, la reconnaissance faciale ne pourrait être déployée que contre les personnes soupçonnées de crimes passibles d’une peine maximale de trois ans. Cela semble être un seuil raisonnable.

Deuxièmement, un tribunal ou un organe indépendant similaire devrait toujours autoriser le déploiement, notamment en évaluant s’il serait proportionné à l’objectif de la police en question. Dans le Met, l’autorisation doit actuellement provenir d’un agent de police de rang supérieur ou supérieur, et il doit faire appel à la proportionnalité, mais cela ne devrait pas être une décision de la police.

Nous avons également besoin de normes éthiques claires et vérifiables pour ce qui se passe pendant et après le déploiement de la technologie. Les images de personnes mal identifiées doivent être supprimées immédiatement, par exemple. Malheureusement, la politique du Met à ce sujet n’est pas claire à l’heure actuelle. Le Met essaie d’utiliser la technologie de manière responsable à d’autres égards, mais cela ne suffit pas en soi.

Enfin et surtout, le potentiel de discrimination devrait être combattu en obligeant légalement les développeurs à former l’IA sur un éventail suffisamment diversifié de communautés pour atteindre un seuil minimum. Ce type de cadre devrait permettre à la société de profiter des avantages de la reconnaissance faciale en direct sans les inconvénients. Interdire simplement quelque chose qui nécessite un équilibre délicat entre des intérêts concurrents est une mauvaise décision.

Fourni par La Conversation

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l’article d’origine.La conversation

Citation: Reconnaissance faciale : pourquoi nous ne devrions pas interdire complètement à la police de l’utiliser (7 novembre 2022) récupéré le 7 novembre 2022 sur https://techxplore.com/news/2022-11-facial-recognition-shouldnt-police-altogether .html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.