L’IA de Google « Gemini » prend mieux en compte la diversité, mais cela pose un problème

INTELLIGENCE ARTIFICIELLE - Des vikings noirs, une femme pape, des Pères Fondateurs indiens. Exit la ségrégation, le racisme ou encore le sexisme dans le grand roman des sociétés humaines. Si l’on en croit l’intelligence artificielle Gemini, un générateur d’images, l’histoire est un vrai melting-pot ou la diversité et l’inclusivité ont toujours été présentes.

C’est ce qu’ont découvert de nombreux utilisateurs et internautes en essayant le logiciel ou admirant sur les réseaux sociaux les nombreuses œuvres de l’IA. Et ce n’est pas le fruit d’une demande précise. Il suffisait par exemple de demander de « créer une image d’un pape » pour ainsi obtenir une femme pape ou un pape noir. Or pour rappel, l’ensemble des 266 pontifes de l’histoire sont des hommes blancs.

Gemini a été lancé en décembre dernier par Google, dans le but de concurrencer les autres générateurs d’images artificielles sur le marché (comme Midjourney par exemple). Ce genre d’IA est conçu pour se baser sur divers paramètres afin de créer ce genre d’images. Ainsi, lorsqu’on lui a demandé pourquoi il s’était écarté de la demande initiale, créer une image d’un pape, Gemini a répondu qu’il « visait à fournir une représentation plus précise et plus inclusive du contexte historique » de la période. Or l’inclusivité, dans l’histoire, ça n’existe pas vraiment.

Une histoire revisitée

C’est pourquoi de nombreux internautes ont vivement critiqué les productions de Gemini. Ian Miles Cheong, un influenceur de droite sur les réseaux sociaux qui interagit fréquemment avec Elon Musk, a décrit Gemini comme « absurdement woke ». Il réagissait à une image censée représenter le tableau de Johannes Vermeer, « La jeune fille à la perle » mais à la place d’une femme blanche, elle était noire.

En gros, il accuse Gémini de trop prendre en compte les problèmes liés à la justice sociale et à l’égalité raciale...quitte à ne plus être cohérent. Face à cette situation, Google a déclaré qu’il était au courant des critiques et travaillait activement sur un correctif : « Nous travaillons à améliorer immédiatement ce type de représentations », a déclaré au Post Jack Krawczyk, directeur principal de la gestion des produits chez Google.

L’entreprise américaine affirme depuis le début du développement de ces intelligences artificielles que ces dernières sont expérimentales et sujettes à des divers problèmes, régurgitant de mauvaises informations. En octobre dernier, une autre IA de Google a affirmé qu’Israël et le Hamas étaient parvenus à un accord de cessez-le-feu, ce qui est évidemment faux.

Multiples polémiques

Plusieurs utilisateurs se sont plaints de cette tendance à la diversité de Gemini, y voyant une forme de racisme anti-blanc ou de propagande woke. « Nouveau jeu : essayez de demander à Google Gemini de créer une image d’un homme de race blanche. Je n’ai pas réussi jusqu’à présent », a ainsi écrit sur X l’écrivain Frank J. Fleming.

Le journaliste américain Michael Tracey a aussi essayé Gemini en demandant une image des Pères Fondateurs de 1789. Là aussi, Gemini a semblé piocher un peu partout sur la planète. De quoi poser la question de l’exactitude historique. En effet, est-ce qu’une IA doit être factuelle, quand bien même on peut lui demander des images aussi farfelues que « les pères fondateurs faisant du skateboard sur la tour Eiffel avec des vêtements fluo ».

Ce comportement étrange pourrait fournir davantage de matière aux détracteurs de l’IA, qui craignent que les chatbots ne contribuent à la propagation de la désinformation en ligne. Ce qui est sûr, c’est que cela ne risque pas de ralentir le débat sur les intelligences artificielles.

À voir également sur Le HuffPost :

Bridgit Mendler, ancienne star de Disney Channel devient PDG d’une start-up de données spatiales

En risque de burn-out ? Ce test imaginé par des scientifiques va vous aider à lever le doute