L'algorithme de YouTube a-t-il vu du racisme dans un jeu d'échec ?

·1 min de lecture

Pressées de faire le ménage dans leur contenu, les plateformes développent des outils de censure automatiques pour cibler les propos racistes, sexistes ou autres discours haineux. Jusqu'à parfois se passer d'intervention humaine, au risque de supprimer injustement certaines publications.

Une balle perdue 2.0. Le 27 juin 2020, Antonio Radić voit une de ses vidéos censurées par YouTube, dont un message sybillin lui indique que son contenu a été considéré comme " nocif ou dangereux ". L’extrait semblait pourtant tout sauf sulfureux : ce vidéaste croate avait diffusé une interview avec un maître international d'échecs auprès des 700.000 abonnés de sa chaîne, la plus populaire parmi celles consacrées au jeu. Le trentenaire clique immédiatement sur l’icône permettant de contester la décision. " À peine une minute plus tard, l’appel était rejeté ", raconte-t-il le lendemain. Un verdict trop rapide pour avoir été acté par un humain, déduit le vidéaste. " L’extrait n’a pas été supprimé par un employé, mais par un algorithme qui a dû reconnaître des mots-clés ". Sans autre précision de l’entreprise, il émet une hypothèse liée à la couleur des pièces : " Si l’algorithme est vraiment stupide, il a pu entendre ‘les Blancs sont dans une meilleure position’, et prendre ça pour du racisme ".L’infortune du Croate illustre le poids grandissant pris par l’intelligence artificielle dans la modération des réseaux sociaux. Pressées par les gouvernements de faire le ménage dans leurs...

Lire la suite sur Marianne

A lire aussi

Motion de défiance contre la direction de 20 Minutes : "On va droit dans le mur"

20 départements sous "surveillance renforcée", pas de mesures immédiates : les annonces de Castex

"Un pull à 20 euros, c’est ce que je mange en une semaine" : ce que coûte le Covid aux Français

Algorithmes obscurs, commissions gourmandes : les restaurateurs dépendants des plateformes de livraison

Cédric Durand : "Les algorithmes des Gafam prennent la place tenue autrefois par les terres seigneuriales"