Yahoo Actualités L'intelligence artificielle peut-elle être éthique ?
Une meilleure compréhension des algorithmes va nécessiter plus d'interdisciplinarité pour allier sciences humaines et sciences du numérique.
Cet article est extrait du mensuel Sciences et Avenir n°929/930, daté juillet/ août 2024.
Une intelligence artificielle (IA) éthique. La formule revient comme un leitmotiv depuis l'essor de l'apprentissage profond d'abord, et celui, actuel, de l'IA dite générative. C'est dû au fonctionnement de ces algorithmes, qui apprennent des règles statistiques à partir de données pour donner ensuite des réponses. Sauf que l'on ne connaît pas ces règles, qui dépendent justement des données ! D'où une quantité de risques de biais et de résultats difficiles à expliquer, voire obtenus par une mauvaise approche : en 2016, des chercheurs montraient qu'un algorithme conçu pour distinguer des huskies et des loups donnait ses réponses en fonction de la présence ou non de neige dans l'image, non de la reconnaissance des animaux.
"Il faut chercher à comprendre pourquoi il y a des biais"
Ainsi, de nombreuses prises de position et d'initiatives scientifiques ont concerné l'éthique et la compréhension des algorithmes. Laurence Devillers, du Laboratoire interdisciplinaire des sciences du numérique (CNRS, Sorbonne Université), s'implique beaucoup sur ces sujets. D'autant que les interactions sociales et la modélisation des émotions font partie de ses champs de recherche privilégiés.
"Mais quand on parle d'éthique en IA, on s'en tient généralement à une approche technique : traquer les biais, les discriminations, nettoyer les données. Alors qu'il faut chercher à comprendre pourquoi il y a des biais, utiliser des travaux menés en sociologie, des notions comme l'irrationalité rationnelle. "
Lire aussiLes bases d’images, le casse-tête éthique des chercheurs
La production de mots influence le comportement de l'autre
La chercheuse, qui a pour ambition d'allier intimement sciences humaines et sociales et informatique, plaide pour beaucoup plus d'interdisciplinarité qu'il n'en existe en matière d'IA. Pour une sorte d'"hybridation" des disciplines. Même si les experts en IA collaborent à des travaux e[...]
