Aurélie Jean – Création du pire algorithme : la science n’est pas un jeu

Un algorithme a été testé sur des internautes à leur insu (photo d'illustration).
Un algorithme a été testé sur des internautes à leur insu (photo d'illustration).

Ce mois-ci, un ingénieur, Yannic Kilcher, s'est amusé à entraîner un algorithme, destiné à être utilisé dans un agent conversationnel, sur un jeu de données basées intentionnellement sur des conversations offensives et discriminatoires. Sans grande surprise, le chatbot une fois utilisé dans des conditions réelles par des êtres humains comme vous et moi a tenu des propos polémiques et inappropriés. L'ingénieur a ensuite exposé son exploit sur – ce sont ses mots – le plus horrible algorithme. Une vague de contestations a alors émergé chez les scientifiques et les ingénieurs qui remettent en question les conditions d'une telle expérience. Car la science n'est pas un jeu et doit être conduite selon de bonnes pratiques.

Dans l'expérience conduite ici, Yannic Kilcher a entraîné un algorithme sur un ensemble de conversations à caractère offensif au sein du forum de discussion du réseau d'échange d'images 4Chan. L'algorithme, ensuite embarqué dans un agent conversationnel écrit, n'a fait que reproduire les schémas récurrents des conversations issues de la phase d'apprentissage dans les échanges avec les utilisateurs. Impliquant racisme, sexisme, ou toute autre discrimination et réponse violente envers les utilisateurs qui ne savaient pas, quant à eux, qu'ils échangeaient avec un algorithme. Mais pourquoi tant de scientifiques et d'ingénieurs ont condamné ce calcul algorithmique ?

Un essai avec des cobayes « aveugles »

Tout d'abord, l'idée même de célébrer la création [...] Lire la suite

Notre objectif est de créer un endroit sûr et engageant pour que les utilisateurs communiquent entre eux en fonction de leurs centres d’intérêt et de leurs passions. Afin d'améliorer l’expérience dans notre communauté, nous suspendons temporairement les commentaires d'articles