Qu’est-ce que l’intelligence artificielle apporte à la diversité ?

L’intelligence artificielle sur le lieu de travail peut offrir un environnement propice à la prise de décisions équitables et à la mise en place de politiques tangibles pour évoluer avec l’entreprise. Cependant, il faut également prêter attention aux risques de discrimination induite par l’IA, et à la détérioration de la diversité de l’entreprise.

Informations générales

L’intelligence artificielle a pris une place de plus en plus importante dans notre société et constitue un puissant outil de développement et de progrès dans les domaines de l’éducation, de la santé, de l’environnement et des entreprises.

Cette nouvelle gestion des données massives sur les individus augmente-t-elle ou diminue-t-elle les risques de discrimination dans la vie professionnelle ?

Les chercheurs ont constaté des biais de l’IA, c’est-à-dire des situations dans lesquelles un système d’apprentissage automatique discrimine un groupe de personnes en particulier. En général, cette discrimination reflète les personnes sous-représentées ou marginalisées dans notre société en raison de la couleur de leur peau, de leur sexe, de leur âge ou de leur nationalité.

Exemple : Les technologies de reconnaissance faciale

Dans le cadre du projet « Gender Shades », des chercheurs américains et canadiens ont examiné les technologies de reconnaissance faciale de Microsoft, d’IBM et de la société chinoise Face++. Selon les chercheurs, elles sont plus performantes sur les visages à peau blanche que sur les visages à peau foncée et beaucoup moins performantes sur les visages des femmes

Le saviez-vous ? Une femme à la peau foncée sera mal classée dans 34,7 % des cas, alors que le taux d’erreur est de 0,8 % pour un homme à la peau claire.

La cause des biais discriminatoires est à chercher directement dans les jeux de données sur lesquels les IA sont entraînées. En inspectant deux des principaux jeux de données massivement utilisés pour alimenter les systèmes de reconnaissance faciale, on remarque rapidement qu’ils sont majoritairement composés de portraits de personnes à la peau claire.

Il ne faut pas oublier que cette technologie est aussi une occasion de réduire les inégalités, à condition qu’elle ait été construite pour cela.

Impacts actuels

Que cela signifie-t-il pour les entreprises ?

Pendant la phase de recrutement, l’intelligence artificielle est parfois utilisée pour la présélection des candidats. Les systèmes d’IA étant conçus pour apprendre à partir de données, si les données sont biaisées en fonction du point de vue de la personne qui les construit, cela peut conduire à une plus grande inclusion ou discrimination.

D’un côté, cela peut apporter plus d’objectivité en sélectionnant les personnes pour leurs compétences, leur expérience et leurs qualités, et non par intuition et donc sur la base de préjugés. Ces préjugés, parfois même inconscients, sont largement fondés sur des caractéristiques physiques, telles que la couleur de la peau, le sexe et l’âge…

 

Intelligence artificielle et travail : risques et opportunités

En savoir plus

Prochaines étapes

  • Vous pouvez commencer à créer des programmes de diversité et d’inclusion, en évitant la discrimination et les préjugés.
  • De nombreuses entreprises font appel à des organisations professionnelles lorsqu’elles estiment ne pas avoir le bagage pédagogique nécessaire pour créer des initiatives d’équité.
  • Votre département RH peut obtenir des informations impartiales de la part de l’IA afin que les données soient claires et moins subjectives.
  • Les mesures sont également un moyen important d’évaluer les initiatives de votre organisation et de rester sur la bonne voie. Exemple : Les candidats à un emploi sont-ils majoritairement des hommes ? L’IA peut vous aider à analyser les offres d’emploi à la recherche de termes sexistes afin que les équipes puissent créer des offres plus neutres à l’avenir.
 

Comment développer une Intelligence Artificielle inclusive et fiable ? – BNP Paribas

Article précédent BNP Paribas s’associe à Têtu et co-signe un film engageant sur… Article suivant Rapprocher les femmes de la Tech : un enjeu d’égalité et de… Une définition généralement acceptée assimile l’intelligence artificielle à  » la théorie et le développement de systèmes informatiques capables d’effectuer des tâches nécessitant normalement une intelligence humaine,…

En savoir plus

En savoir plus

Revenir au glossaire