Les décisions prises par une intelligence artificielle (IA) peuvent sembler plus objectives que celles prises par un être humain. Elles sont basées sur des algorithmes et des données plutôt que sur des émotions, des préjugés ou des opinions personnelles. Par exemple, l’utilisation de l’IA dans le cadre du processus de recrutement permettrait d’éviter tout risque discriminatoire en contournant les stéréotypes et préjugés conscients ou inconscients des personnes chargées de cette opération.
Cependant, l’objectivité d’une IA dépend fortement de la manière dont elle a été conçue, formée et utilisée. Par exemple, les personnes qui contribuent au développement d’une IA ne sont pas toujours sensibilisées aux questions de discrimination dans le monde du travail.
C’est pourquoi, la fonction RH doit considérer l’IA à 3 niveaux pour éviter des décisions partiales ou discriminatoires :
- La qualité et la quantité de données: Les données utilisées pour former l’IA peuvent être biaisées ou incomplètes. Par exemple, si les données historiques montrent une préférence pour un certain groupe démographique, l’IA peut reproduire ce biais en recommandant de manière disproportionnée des candidats similaires.
- Les algorithmes: Les algorithmes utilisés par l’IA peuvent reposer sur des hypothèses elles-mêmes biaisées. Par exemple, si l’algorithme applique une certaine valeur à la stabilité dans l’emploi, l’IA peut exclure des candidats ayant une expérience professionnelle variée.
- L’utilisation: Les résultats produits par l’IA peuvent être utilisés de manière subjective ou biaisée par les personnes utilisatrices:
- Soit, parce que l’humain interprète le résultat en fonction de ses croyances et perceptions. Par exemple, l’utilisateur peut interpréter le résultat objectif produit par l’IA pour confirmer un préjugé.
- Soit, parce que l’humain n’interprète pas le résultat en fonction du contexte et de la complexité. Par exemple, l’utilisateur peut prendre en compte le résultat produit par l’IA sans tenir compte de nuances intangibles pour l’IA liées à la culture d’entreprise.
Bien que l’IA offre une certaine objectivité, elle n’est pas immunisée contre les biais et les erreurs. Il est essentiel de comprendre les limites et les implications éthiques de l’utilisation de l’IA dans la prise de décision.
Explorez notre sélection d’articles et enrichissez votre expertise.
François Rouhban 