Comment le robot recruteur d'Amazon est devenu misogyne

LExpress.fr
Le logiciel de recrutement d'Amazon qui éliminait les candidates met en lumière l'influence de nos biais sur la technologie.

Pour Amazon, c'était le "saint Graal" du recrutement. Un programme informatique à qui vous soumettez une centaine de CV et qui vous propose ceux qu'il juge les plus intéressants, laissant aux humains la seule charge du dernier choix. Le géant de la vente en ligne l'a mis au point en 2014 puis testé avant de se rendre compte un an après que le système avait un gros défaut : il rejetait les candidates. 

Les CV contenant le mot "femme" étaient en effet éliminés par le programme, selon les sources de l'agence Reuters. Par exemple, une candidate "capitaine de club d'échecs féminin" dans son temps libre pouvait se considérer éliminée, alors que les mots souvent utilisés par les hommes étaient en revanche valorisés. Les candidates diplômées de deux universités de femmes ont aussi vu leur note, attribuée par le système, abaissée sans raison. Amazon a détecté le problème en 2015 et l'a corrigé, mais a tout de même abandonné le projet début 2017, pris de doute sur la possibilité que le système discrimine sur d'autres critères. La raison de cet échec interroge sur l'opportunité de sous-traiter de telles missions à l'intelligence artificielle. 

Le manque de diversité en cause

Avant de recevoir les nouveaux CV, le programme avait en effet absorbé les candidatures reçues par Amazon dans les dix années précédant sa conception, explique Reuters. Parmi celles-ci, une majorité avait été envoyée par des hommes, ce qui avait poussé le programme à considérer les candidats comme plus indiqués que les candidates. Autrement dit, le manque de diversité du secteur des nouvelles technologies, résultat d'un ensemble de processus construits, a été absorbé par l'intelligence artificielle. Les recruteurs d'Amazon attendaient une sélection froidement objective, mais se sont retrouvés avec un résultat nourri par une culture inégalitaire. 

Ce n'est pas la première fois que le manque de diversité des géants des nouvelles technologies a une influence négative sur leurs outils ou produits. Il y a trois ans, u...Lire la suite sur L'Express.fr

Comment le robot recruteur d'Amazon est devenu misogyne

L'intelligence artificielle fabrique nos bébés

La robomobile va-t-elle remplacer l'automobile?

Google inaugure un laboratoire de recherche à Paris