L’ONU demande un moratoire sur l’utilisation de l’IA qui met en péril les droits humains

L'ONU demande un moratoire sur l'utilisation de l'IA qui met en péril les droits humains

Dans cette photo d’archive du mercredi 9 décembre 2020, Michelle Bachelet, Haut-Commissaire des Nations Unies aux droits de l’homme, prend la parole lors d’une conférence de presse au siège européen des Nations Unies à Genève, en Suisse. Le chef des droits de l’homme de l’ONU appelle à un moratoire sur l’utilisation de la technologie de l’intelligence artificielle qui pose un risque grave pour les droits de l’homme, y compris les systèmes de balayage du visage qui suivent les personnes dans les espaces publics. Michelle Bachelet a également déclaré que les pays devraient expressément interdire les applications d’IA qui ne respectent pas le droit international des droits de l’homme. Les applications qui devraient être interdites incluent les systèmes de « notation sociale » du gouvernement qui jugent les personnes en fonction de leur comportement et certains outils basés sur l’IA qui classent les personnes par origine ethnique ou par sexe.Crédit : Martial Trezzini/Keystone via AP, fichier

Le chef des droits de l’homme de l’ONU appelle à un moratoire sur l’utilisation de la technologie de l’intelligence artificielle qui pose un risque grave pour les droits de l’homme, y compris les systèmes de balayage du visage qui suivent les personnes dans les espaces publics.

Michelle Bachelet, la Haut-Commissaire des Nations Unies aux droits de l’homme, a également déclaré mercredi que les pays devraient expressément interdire les applications d’IA qui ne respectent pas le droit international des droits de l’homme.

Les applications qui devraient être interdites incluent les systèmes gouvernementaux de « notation sociale » qui jugent les personnes en fonction de leur comportement et certains outils basés sur l’IA qui catégorisent les personnes en groupes tels que l’origine ethnique ou le sexe.

Les technologies basées sur l’IA peuvent être une force pour le bien, mais elles peuvent aussi “avoir des effets négatifs, voire catastrophiques, si elles sont utilisées sans tenir suffisamment compte de la façon dont elles affectent les droits humains des personnes”, a déclaré Bachelet dans un communiqué.

Ses commentaires sont accompagnés d’un nouveau rapport de l’ONU qui examine comment les pays et les entreprises se sont précipités pour appliquer des systèmes d’IA qui affectent la vie et les moyens de subsistance des personnes sans mettre en place des garanties appropriées pour prévenir la discrimination et d’autres préjudices.

Elle n’a pas appelé à une interdiction pure et simple de la technologie de reconnaissance faciale, mais a déclaré que les gouvernements devraient interrompre l’analyse des caractéristiques des personnes en temps réel jusqu’à ce qu’ils puissent montrer que la technologie est exacte, ne discrimine pas et respecte certaines normes de confidentialité et de protection des données.

Bien que les pays ne soient pas nommés nommément dans le rapport, la Chine en particulier fait partie des pays qui ont déployé la technologie de reconnaissance faciale, en particulier dans le cadre de la surveillance dans la région occidentale du Xinjiang, où vivent de nombreux Ouïghours minoritaires.

Le rapport exprime également sa méfiance à l’égard des outils qui tentent de déduire les états émotionnels et mentaux des personnes en analysant leurs expressions faciales ou leurs mouvements corporels, affirmant qu’une telle technologie est susceptible de biais, d’interprétations erronées et manque de base scientifique.

« L’utilisation de systèmes de reconnaissance des émotions par les autorités publiques, par exemple pour identifier des individus lors d’interpellations ou d’arrestations par la police ou pour évaluer la véracité des déclarations lors des interrogatoires, risque de porter atteinte aux droits de l’homme, tels que les droits à la vie privée, à la liberté et à un droit équitable. procès », indique le rapport.

Les recommandations du rapport font écho à la pensée de nombreux dirigeants politiques dans les démocraties occidentales, qui espèrent exploiter le potentiel économique et sociétal de l’IA tout en répondant aux préoccupations croissantes concernant la fiabilité des outils qui peuvent suivre et profiler les individus et faire des recommandations sur qui a accès à des emplois, des prêts et des opportunités éducatives.

Les régulateurs européens ont déjà pris des mesures pour freiner les applications d’IA les plus risquées. Les réglementations proposées par les responsables de l’Union européenne cette année interdiraient certaines utilisations de l’IA, telles que l’analyse en temps réel des traits du visage, et en contrôleraient étroitement d’autres qui pourraient menacer la sécurité ou les droits des personnes.

L’administration du président américain Joe Biden a exprimé des préoccupations similaires au sujet de telles applications, bien qu’elle n’ait pas encore décrit d’approche détaillée pour les réduire. Un groupe nouvellement formé appelé le Conseil du commerce et de la technologie, dirigé conjointement par des responsables américains et européens, a cherché à collaborer à l’élaboration de règles communes pour l’IA et d’autres politiques technologiques.

Les efforts visant à fixer des limites aux utilisations les plus risquées ont été soutenus par Microsoft et d’autres géants américains de la technologie qui espèrent orienter les règles affectant la technologie qu’ils ont contribué à développer.

“Si vous pensez aux façons dont l’IA pourrait être utilisée de manière discriminatoire, ou pour renforcer davantage les tendances discriminatoires, c’est assez effrayant”, a déclaré la secrétaire américaine au Commerce Gina Raimondo lors d’une conférence virtuelle en juin. « Nous devons nous assurer de ne pas laisser cela se produire. »

Elle parlait avec Margrethe Vestager, vice-présidente exécutive de la Commission européenne pour l’ère numérique, qui a suggéré que certaines utilisations de l’IA devraient être complètement interdites dans des « démocraties comme la nôtre », comme la notation sociale qui peut fermer les privilèges de quelqu’un dans la société, et “utilisation large et généralisée de l’identification biométrique à distance dans l’espace public.”

Elle a dit qu’il y avait quelque chose de fondamental à pouvoir dire : “Je vis dans une vraie société. Je ne vis pas dans la bande-annonce d’un film d’horreur dont je ne veux pas voir la fin.”


Les observateurs des données de l’UE veulent interdire la reconnaissance faciale de l’IA


© 2021 La Presse Associée. Tous les droits sont réservés. Ce matériel ne peut pas être publié, diffusé, réécrit ou redistribué sans autorisation.

Citation: L’ONU demande un moratoire sur l’utilisation de l’IA qui met en péril les droits de l’homme (2021, 15 septembre) extrait le 15 septembre 2021 de https://techxplore.com/news/2021-09-urges-moratorium-ai-imperils-human.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation équitable à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.