Un algorithme de Facebook confond des personnes noires avec des singes

·2 min de lecture

Sur Facebook, une vidéo intitulée "un homme blanc appelle les flics contre des hommes noirs à la marina", était accompagnée de cette question : "voir plus de vidéos sur les primates ?"

Un algorithme de recommandation de Facebook a demandé à des utilisateurs s'ils souhaitaient voir d'autres "vidéos sur les primates" sous une vidéo d'un tabloïd britannique montrant des personnes noires, a révélé le New York Times vendredi. La vidéo du Daily Mail, vieille de plus d'un an, est intitulée "un homme blanc appelle les flics contre des hommes noirs à la marina". Elle ne montre que des personnes, pas de singes. En dessous, la question "voir plus de vidéos sur les primates ?" avec les options "Oui / Rejeter" s'est affichée sur l'écran de certains utilisateurs, d'après une capture d'écran diffusée sur Twitter par Darci Groves, une ancienne designer du géant des réseaux sociaux.

"C'est scandaleux", a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l'affaire. "C'est clairement une erreur inacceptable", a réagi une porte-parole de Facebook, sollicitée par l'AFP. "Nous présentons nos excuses à quiconque a vu ces recommandations insultantes." Le groupe californien a désactivé l'outil de recommandation sur ce sujet "dès que nous nous sommes aperçus de ce qui se passait afin d'enquêter sur les causes du problème et empêcher que cela ne se reproduise", a-t-elle précisé. "Comme nous l'avons dit, même si nous avons amélioré nos systèmes d'intelligence artificielle, nous savons qu'ils ne sont pas parfaits et que nous avons des progrès à faire", a-t-elle continué.

L'affaire souligne les limites des technologies d'intelligence artificielle

L'affaire souligne les limites des technologies d'intelligence artificielle, régulièrement mise en avant par la plateforme dans ses efforts pour construire un fil personnalisé à chacun de ses près de 3 milliards d'utilisateurs mensuels. Elle s'en sert aussi(...)


Lire la suite sur Paris Match

Notre objectif est de créer un endroit sûr et engageant pour que les utilisateurs communiquent entre eux en fonction de leurs centres d’intérêt et de leurs passions. Afin d'améliorer l’expérience dans notre communauté, nous suspendons temporairement les commentaires d'articles