Aurélie Jean – La science des algorithmes n’est pas manichéenne

·1 min de lecture
Aurélie Jean, fondatrice de Silico Veritas et spécialiste des algorithmes.  
Aurélie Jean, fondatrice de Silico Veritas et spécialiste des algorithmes.

On ne compte plus le nombre de livres, de films documentaires et d'articles de presse qui nous informent, à raison, des menaces algorithmiques sur la société, comme les risques de biais technologiques et de manipulation d'opinion sur les réseaux sociaux. Les scandales de ces trois dernières années expliquent ce prisme dystopique généralisé. L'affaire Cambridge Analytica, en 2018, a marqué le début d'une ère de défiance vis-à-vis de la science algorithmique, une discipline relativement nouvelle, avec l'utilisation illégale de données de millions d'utilisateurs Facebook. Et pourtant, il ne faudrait pas entrer dans un monde manichéen, tout est bien ou tout est mal : la réalité est plus subtile.

De nombreux scientifiques et ingénieurs s'organisent pour alerter sur les dérives d'algorithmes pourtant inoffensifs lorsqu'ils sont bien utilisés ou appliqués différemment. Les outils de reconnaissance faciale font particulièrement peur. Ils sont largement controversés, car il existe un risque élevé de biais algorithmiques amenant ces outils à ne pas (ou moins) reconnaître les personnes de couleur, ou de surveillance de masse des citoyens. C'est ce que soulignent justement les scientifiques Joy Buolamwini, Cathy O'Neil ou encore Meredith Broussard dans le documentaire Coded Bias. Ces technologies de reconnaissance faciale s'appuient sur des algorithmes d'identification sur images utilisés par ailleurs dans le cadre de nombreuses autres applications inoffensives. L'iden [...] Lire la suite