L’intelligence artificielle en Afrique du Sud s’accompagne de dilemmes particuliers, auxquels s’ajoutent les risques habituels

Lorsque les gens pensent à l’intelligence artificielle (IA), ils peuvent avoir des visions de l’avenir. Mais l’IA est déjà là. À la base, c’est la recréation d’aspects de l’intelligence humaine sous forme informatisée. Comme l’intelligence humaine, il a une large application.

Les assistants personnels à commande vocale comme Siri, les voitures autonomes et les générateurs de texte et d’image utilisent tous l’IA. Il gère également nos flux de médias sociaux. Il aide les entreprises à détecter les fraudes et à embaucher des employés. Il est utilisé pour gérer le bétail, améliorer les rendements des cultures et faciliter les diagnostics médicaux.

Parallèlement à sa montée en puissance et à son potentiel, l’IA soulève des questions morales et éthiques. La technologie a déjà été au centre de multiples scandales : la violation des lois et des droits, ainsi que la discrimination raciale et sexuelle. En bref, cela s’accompagne d’une litanie de risques et de dilemmes éthiques.

Mais quels sont exactement ces risques ? Et comment diffèrent-ils d’un pays à l’autre ? Pour le savoir, j’ai entrepris une revue thématique de la littérature des pays les plus riches afin d’identifier six thèmes de risque éthique universels de haut niveau. J’ai ensuite interrogé des experts impliqués ou associés à l’industrie de l’IA en Afrique du Sud et évalué en quoi leurs perceptions du risque lié à l’IA différaient ou résonnaient avec ces thèmes.

Les résultats reflètent des similitudes marquées dans les risques d’IA entre le nord global et l’Afrique du Sud en tant qu’exemple d’une nation du sud global. Mais il y avait des différences importantes. Celles-ci reflètent la société inégale de l’Afrique du Sud et le fait qu’elle se situe à la périphérie du développement, de l’utilisation et de la réglementation de l’IA.

D’autres pays en développement qui partagent des caractéristiques similaires – une vaste fracture numérique, des inégalités et un chômage élevés et une éducation de mauvaise qualité – ont probablement un profil de risque similaire à celui de l’Afrique du Sud.

Il est important de savoir quels risques éthiques peuvent se produire au niveau d’un pays, car cela peut aider les décideurs et les organisations à ajuster leurs politiques et pratiques de gestion des risques en conséquence.

Thèmes universels

Les six thèmes universels de risque éthique que j’ai tirés de l’examen de la littérature sur le Nord global étaient :

• Responsabilité: On ne sait pas qui est responsable des résultats des modèles et des systèmes d’IA.

• Biais: Lacunes des algorithmes, des données ou des deux biais enracinés.

• Transparence: Les systèmes d’IA fonctionnent comme une “boîte noire”. Les développeurs et les utilisateurs finaux ont une capacité limitée à comprendre ou à vérifier la sortie.

• Autonomie: Les humains perdent le pouvoir de prendre leurs propres décisions.

• Risques socio-économiques: L’IA peut entraîner des pertes d’emplois et aggraver les inégalités.

• Malfaisance: Il pourrait être utilisé par des criminels, des terroristes et des appareils étatiques répressifs.

Ensuite, j’ai interviewé 16 experts impliqués ou associés à l’industrie sud-africaine de l’IA. Ils comprenaient des universitaires, des chercheurs, des concepteurs de produits liés à l’IA et des personnes qui chevauchaient les catégories. Pour la plupart, les six thèmes que j’avais déjà identifiés résonnaient avec eux.

Préoccupations sud-africaines

Mais les participants ont également identifié cinq risques éthiques reflétant les caractéristiques nationales de l’Afrique du Sud. C’étaient:

• Données et modèles étrangers: Données parachutées et modèles d’IA venus d’ailleurs.

• Limites des données: Rareté des ensembles de données qui représentent, reflètent les conditions locales.

• Aggravation des inégalités: L’IA pourrait approfondir et enraciner les inégalités socio-économiques existantes.

• Parties prenantes non informées: La plupart du public et des décideurs n’ont qu’une compréhension grossière de l’IA.

• Absence de politique et de réglementation: Il n’y a actuellement aucune exigence légale spécifique ou position gouvernementale globale sur l’IA en Afrique du Sud.

Ce que tout cela signifie

Alors, que nous disent ces découvertes ?

Premièrement, les risques universels sont pour la plupart techniques. Ils sont liés aux fonctionnalités de l’IA et disposent de solutions techniques. Par exemple, le biais peut être atténué par des modèles plus précis et des ensembles de données complets.

La plupart des risques spécifiques à l’Afrique du Sud sont plus socio-techniques, manifestant l’environnement du pays. L’absence de politique et de réglementation, par exemple, n’est pas une caractéristique inhérente à l’IA. C’est un symptôme du fait que le pays se trouve à la périphérie du développement technologique et de la formulation des politiques connexes.

Les organisations et les décideurs politiques sud-africains ne devraient donc pas se concentrer uniquement sur les solutions techniques, mais aussi examiner de près les dimensions socio-économiques de l’IA.

Deuxièmement, les faibles niveaux de sensibilisation de la population suggèrent qu’il y a peu de pression sur les organisations sud-africaines pour démontrer un engagement envers l’IA éthique. En revanche, les organisations du Nord doivent montrer qu’elles connaissent l’éthique de l’IA, car leurs parties prenantes sont plus conscientes de leurs droits vis-à-vis des produits et services numériques.

Enfin, alors que l’UE, le Royaume-Uni et les États-Unis ont des règles et réglementations naissantes concernant l’IA, l’Afrique du Sud n’a aucune réglementation et des lois limitées concernant l’IA.

Le gouvernement sud-africain n’a pas non plus reconnu l’impact plus large et les implications éthiques de l’IA. Cela diffère même d’autres marchés émergents tels que le Brésil, l’Égypte, l’Inde et Maurice, qui ont des politiques et des stratégies nationales qui encouragent l’utilisation responsable de l’IA.

Avancer

L’IA peut, pour l’instant, sembler très éloignée des défis socio-économiques actuels de l’Afrique du Sud. Mais cela deviendra omniprésent dans les années à venir. Les organisations et les décideurs politiques sud-africains devraient gérer de manière proactive les risques éthiques liés à l’IA.

Cela commence par reconnaître que l’IA présente des menaces distinctes de celles de l’hémisphère nord et qu’il faut les gérer. Les conseils d’administration devraient ajouter l’éthique de l’IA à leurs programmes, et les décideurs et les membres des conseils d’administration devraient être formés à la technologie.

De plus, les risques éthiques liés à l’IA devraient être ajoutés aux stratégies de gestion des risques des entreprises et des gouvernements, à l’instar du changement climatique, qui a reçu peu d’attention il y a 15 ou 20 ans, mais qui occupe désormais une place importante.

Peut-être plus important encore, le gouvernement devrait s’appuyer sur le lancement récent de l’Institut d’intelligence artificielle d’Afrique du Sud et introduire une stratégie nationale sur mesure et une réglementation appropriée pour garantir l’utilisation éthique de l’IA.

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l’article d’origine.