Yahoo Actualités Le bot du Pôle emploi autrichien refuse d’orienter les femmes vers l’informatique
Lorsqu’il a annoncé la création de son “Berufsinfomat” début janvier, le ministère du Travail autrichien était particulièrement fier de lui. Il était le premier en Europe à avoir mis en place un agent conversationnel fondé sur l’intelligence artificielle (IA) générative pour orienter les étudiants et les demandeurs d’emploi. L’équivalent du France Travail (anciennement Pôle emploi) français à la sauce technologique. Le tout en collaboration avec l’entreprise américaine OpenAI et sa plateforme ChatGPT.
Mais, selon Der Standard, les autorités autrichiennes ont rapidement déchanté. “En effet, le service ne présente pas seulement des défauts techniques éclatants, il produit des préjugés à tout-va.” Le Berufsinfomat a par exemple proposé à des candidats masculins de postuler dans le domaine de l’informatique, tandis qu’ils conseillaient à des candidates ayant un CV identique de se tourner vers les études de genre ou la restauration.
Ces biais sexistes, liés au fonctionnement même de la technologie utilisée par les services de l’emploi, étaient connus avant le lancement du robot conversationnel. Les grands modèles de langage (LLM) comme ChatGPT sont entraînés à partir d’énormes quantités de données, qu’ils récupèrent sur Internet. Bien souvent, celles-ci sont empreintes de nombreux préjugés, que l’on retrouve ensuite dans les réponses données aux utilisateurs.
Protéger ses données
Les autorités autrichiennes ont fait savoir qu’elles essayaient de “réduire le plus possible” ces biais. Mais “ce genre d’outils soulève aussi d’autres questions, comme celles liées à la protection des données”. Celles des utilisateurs pourraient notamment être récupérées par l’entreprise OpenAI. Le ministère du Travail recommande d’ailleurs de ne partager aucune information d’ordre privé lors d’une recherche d’emploi.
“Ce n’est pas la première fois que le ministère du Travail autrichien se retrouve en difficulté avec un projet d’informatisation”, rappelle Der Standard. Par le passé, il avait testé un logiciel censé déterminer les chances des demandeurs d’emploi sur le marché du travail, afin d’évaluer la nature des aides qui leur étaient attribuées. Après des dysfonctionnements, “il a fini par être interdit par l’organisme responsable de la protection des données personnelles, et il n’y a toujours pas de jugement définitif sur la question”.
[...] Lire la suite sur Courrier international
