“Les femmes en bikini, les hommes en costume” : scandale autour des biais sexistes d’Adobe

Quelle ne fut pas la surprise de Georgie Purcell lorsqu’elle découvrit qu’elle avait gagné plusieurs tailles de tour de poitrine et perdu une partie du tissu de sa robe, laissant voir son ventre. La députée animaliste australienne est en effet tombée sur une version modifiée de son portrait sur le site du média Nine News.

L’image a été publiée à la fin de janvier sans avertissement, et sans que la mention “montage photo” n’y figure. Et, étonnamment, la retouche avait un caractère sexiste, raille le média indépendant australien Crikey.

Intervention humaine

Ce n’est pas nous, c’est l’IA, a directement réagi Nine News, accusant l’un des outils d’“automatisation” du logiciel de retouche d’images Photoshop, à savoir le “remplissage génératif” proposé par Adobe, qui consiste à remplir les blancs d’une image lorsqu’elle est redimensionnée à l’aide d’une IA, décrypte le quotidien australien The Sydney Morning Herald (TSMH). Adobe, lui, maintient qu’il y a forcément eu une “commande humaine”. Alors, qui a raison ?

Nine News a déclaré que “l’automatisation par Photoshop a créé une image qui n’était pas conforme à l’originale”. De son côté, Adobe a affirmé que la modification de cette image avait forcément nécessité une intervention humaine et une approbation.

Le média australien a finalement présenté ses excuses et admis qu’il y avait en effet eu une “intervention humaine” dans la décision d’utiliser l’image, rapporte The Guardian. Toutefois, le média a bien précisé qu’aucune instruction n’avait été donnée au logiciel sur “le ton de l’image”.

Biais sexistes de l’IA

L’autre grand débat qu’a ouvert cet incident est donc celui des “biais de représentation”, affirme Crikey. “Les outils d’IA d’Adobe Photoshop mettent les femmes politiques en bikini et leurs collègues masculins en costume”, titre même le site indépendant.

Lorsque le scandale a éclaté, Adobe s’est défendu en affirmant “prendre en compte les signalements des utilisateurs concernant les résultats biaisés afin d’améliorer les processus”. Or, a affirmé Crikey après avoir effectué une série de tests sur ce logiciel, le remplissage génératif d’Adobe sur des images de femmes conduit souvent à leur faire porter “des vêtements plus révélateurs, en particulier au niveau de la partie inférieure”. Ce qui n’est pas le cas pour les hommes.

[...] Lire la suite sur Courrier international

Sur le même sujet :

• Australie. Une photo officielle du Premier ministre avec deux pieds gauches

• Google s’apprête à lancer un outil d’intelligence artificielle capable d’écrire des articles de presse

• L’intelligence artificielle signe “la fin de la vérité”

• États-Unis : “Pourquoi j’ai quitté mon travail dans la tech”