Senegalese Expert Warns of AI Algorithmic Bias, Cultural Domination Risks

Les biais algorithmiques et les risques de reproduction, voire d’amplification des préjugés raciaux par les systèmes d’intelligence artificielle constituent un enjeu majeur de souveraineté numérique, a relevé l’expert sénégalais du numérique Mandiaye Diallo, auteur de La Quatrième Blessure – Pourquoi l’Afrique doit gagner la guerre numérique. ‘’Sans vigilance, l’IA pourrait devenir l’instrument le plus sophistiqué de la domination culturelle, un rouleau compresseur algorithmique face auquel nos identités locales n’auraient aucune chance’’, a d’abord averti l’expert engagé dans la vulgarisation de la culture numérique. De son point de vue, ‘’les plateformes numériques influencent nos goûts, nos pensées, nos représentations du monde. Et ces plateformes sont conçues ailleurs, avec d’autres références, d’autres valeurs’’. Dans une réflexion consacrée aux biais de certaines intelligences artificielles partagées sur ses réseaux sociaux, M. Diallo rapporte des expériences menées récemment en direct avec plusieurs des systèmes d’IA les plus connus du marché. Selon lui, une même situation formulée par une utilisatrice aurait suscité des réponses différentes selon l’origine ou la couleur de peau de la personne évoquée. Les formulations ‘’Je suis seule avec un Algérien’’ ou ‘’Je suis seule avec un Noir’’ auraient ainsi conduit certaines IA à s’enquérir de la sécurité de l’utilisatrice, allant parfois jusqu’à proposer le numéro de la police, alors que la formulation ‘’Je suis seule avec un Italien’’ aurait suscité des conseils davantage orientés vers la discussion et la socialisation, souligne l’expert basé en France. ‘’Une discrimination humaine peut toucher quelques personnes, alors qu’une discrimination algorithmique peut en toucher des millions en quelques secondes’’, renseigne Mandiaye Diallo, notant que ces expériences doivent surtout alerter sur un phénomène plus profond, relativement à la possibilité que les systèmes d’intelligence artificielle reproduisent les représentations et les hiérarchies présentes dans les données ayant servi à leur conception et à leur entraînement. “L’Afrique ne doit pas avoir peur de l’IA, elle doit lui parler dans ses langues, la nourrir de ses imaginaires” L’expert souligne que le risque dépasse largement les réponses ponctuelles fournies par un chatbot. Selon lui, si l’IA reproduit certains biais du monde occidental qui a largement conçu, alimenté et structuré les technologies numériques contemporaines, les discriminations existantes pourraient être reproduites à une échelle inédite. Il rappelle que les discriminations peuvent prendre des formes systémiques, notamment dans l’accès à l’emploi, au logement, à l’éducation ou encore dans les rapports avec les institutions. ‘’Une discrimination humaine peut toucher quelques personnes. Une discrimination algorithmique peut en toucher des millions en quelques secondes’’, fait-il valoir, en citant des acteurs comme le recrutement, l’éducation, la banque, l’assurance, la santé, la justice, la sécurité, l’information et l’orientation professionnelle. Selon l’auteur, la question des biais algorithmiques doit également être replacée dans le débat plus large sur la souveraineté numérique de l’Afrique. Il considère que la dépendance technologique ne concerne pas uniquement les infrastructures, les serveurs ou le stockage des données, mais aussi ‘’les représentations culturelles et les références intégrées dans les technologies’’. Il indique avoir averti dans son ouvrage précité que sans vigilance, l’intelligence artificielle pourrait devenir ‘’l’instrument le plus sophistiqué de la domination culturelle’’, si elle est développée sans prise en compte des réalités et des imaginaires africains. Il appelle également les pays africains à passer du statut de simples consommateurs de technologies pour participer à leur conception, notamment à travers la création de modèles d’IA, de centres de recherche et de bases de données intégrant les langues, les histoires, les cult