Introduction de la transparence contextuelle pour les systèmes de décision automatisés

algorithme

Crédit : Pixabay/CC0 Domaine public

LinkedIn Recruiter, un outil de recherche utilisé par les recruteurs professionnels pour trouver des candidats à des postes vacants, fonctionnerait mieux si les recruteurs savaient exactement comment LinkedIn génère ses réponses aux requêtes de recherche, grâce à un cadre appelé « transparence contextuelle ».

C’est ce qu’une équipe de chercheurs dirigée par Mona Sloane de la NYU Tandon School of Engineering, chercheuse principale au NYU Center for Responsible AI et professeure adjointe de recherche au département Technologie, Culture et Société, avance dans une nouvelle étude provocatrice publiée dans Intelligence des machines naturelles.

L’étude est une collaboration avec Julia Stoyanovich, professeure associée à l’Institut d’informatique et d’ingénierie, professeure associée de science des données et directrice du Center for Responsible AI de l’Université de New York, ainsi qu’avec Ian René Solano-Kamaiko, Ph.D. étudiant à Cornell Tech; Aritra Dasgupta, professeure adjointe de science des données au New Jersey Institute of Technology ; et Jun Yuan, Ph.D. Candidat au New Jersey Institute of Technology.

Il introduit le concept de transparence contextuelle, essentiellement une “étiquette nutritionnelle” qui accompagnerait les résultats fournis par tout système de décision automatisé (ADS), un système informatique ou une machine qui utilise des algorithmes, des données et des règles pour prendre des décisions sans intervention humaine. L’étiquette mettrait à nu les critères explicites et cachés – les ingrédients et la recette – au sein des algorithmes ou d’autres processus technologiques que l’ADS utilise dans des situations spécifiques.

LinkedIn Recruiter est un exemple réel d’ADS – il “décide” quels candidats correspondent le mieux aux critères recherchés par le recruteur – mais différentes professions utilisent les outils ADS de différentes manières. Les chercheurs proposent un modèle flexible de construction de la transparence contextuelle – l’étiquette nutritionnelle – afin qu’elle soit très spécifique au contexte. Pour ce faire, ils recommandent trois “principes de transparence contextuelle” (CTP) comme base pour construire la transparence contextuelle, chacun reposant sur une approche liée à une discipline académique.

  • CTP 1 : Sciences sociales pour la spécificité des acteurs : Cela vise à identifier les professionnels qui s’appuient sur un système ADS particulier, comment ils l’utilisent exactement et quelles informations ils doivent connaître sur le système pour mieux faire leur travail. Cela peut se faire par le biais d’enquêtes ou d’entretiens.
  • CTP 2 : Ingénierie pour ADS Spécificité : Il s’agit de comprendre le contexte technique de l’ADS utilisé par les acteurs concernés. Différents types d’ADS fonctionnent avec des hypothèses, des mécanismes et des contraintes techniques différents. Ce principe nécessite une compréhension à la fois de l’entrée, les données utilisées dans la prise de décision, et de la sortie, la façon dont la décision est rendue.
  • CTP 3 : Conception pour la transparence et la spécificité des résultats : Cela vise à comprendre le lien entre la transparence des processus et les résultats spécifiques que le système ADS devrait idéalement fournir. Dans le recrutement, par exemple, le résultat pourrait être un bassin de candidats plus diversifié facilité par un modèle de classement explicable

Les chercheurs ont examiné comment la transparence contextuelle fonctionnerait avec LinkedIn Recruiter, dans lequel les recruteurs utilisent des recherches booléennes (ET, OU, PAS des requêtes écrites) pour recevoir des résultats classés. Les chercheurs ont découvert que les recruteurs ne font pas aveuglément confiance aux classements dérivés de l’ADS et vérifient généralement l’exactitude des résultats de classement, revenant souvent en arrière et modifiant les mots-clés. Les recruteurs ont déclaré aux chercheurs que le manque de transparence de l’ADS remettait en cause les efforts de recrutement pour la diversité.

Pour répondre aux besoins de transparence des recruteurs, les chercheurs suggèrent que l’étiquette nutritionnelle de transparence contextuelle inclue des facteurs passifs et actifs. Les facteurs passifs comprennent des informations pertinentes pour le fonctionnement général de l’ADS et la pratique professionnelle du recrutement en général, tandis que les facteurs actifs comprennent des informations spécifiques à la chaîne de recherche booléenne et donc changent.

L’étiquette nutritionnelle serait insérée dans le flux de travail typique des utilisateurs de LinkedIn Recruiter, leur fournissant des informations qui leur permettraient à la fois d’évaluer dans quelle mesure les résultats classés satisfont l’intention de leur recherche d’origine et d’affiner la chaîne de recherche booléenne en conséquence pour générer meilleurs résultats.

Pour évaluer si cette intervention de transparence ADS a permis d’obtenir le changement auquel on peut raisonnablement s’attendre, les chercheurs suggèrent d’utiliser des entretiens avec les parties prenantes sur le changement potentiel dans l’utilisation et la perception de l’ADS ainsi que les journaux des participants documentant la pratique professionnelle et les tests A/B (si possible).

La transparence contextuelle est une approche qui peut être utilisée pour les exigences de transparence de l’IA qui sont imposées dans la réglementation nouvelle et à venir sur l’IA aux États-Unis et en Europe, comme la loi locale 144 de 2021 de la ville de New York ou la loi sur l’IA de l’UE.

Plus d’information:
Mona Sloane et al, Présentation de la transparence contextuelle pour les systèmes de décision automatisés, Intelligence des machines naturelles (2023). DOI : 10.1038/s42256-023-00623-7

Fourni par NYU Tandon School of Engineering

Citation: Meilleure transparence : introduction de la transparence contextuelle pour les systèmes de décision automatisés (14 mars 2023) récupéré le 14 mars 2023 sur https://techxplore.com/news/2023-03-transparency-contextual-automated-decision.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.

Laisser un commentaire