Yahoo Actualités L'intelligence artificielle pâtit d'un manque de confiance
Les performances indéniables de l'apprentissage profond depuis plus de dix ans s'accompagnent d'une opacité de fonctionnement des algorithmes. Les outils d'IA génératives compliquent encore le sujet.
Cet article est extrait du mensuel Sciences et Avenir n°931, daté septembre 2024.
Si l'algorithme d'une plateforme de vidéo vous recommande des films qui ne vous plaisent pas, ce n'est pas bien grave. En revanche, l'erreur d'un système de vision par ordinateur ou d'aide à la décision dans un contexte industriel ou médical peut avoir des conséquences autrement plus sérieuses, y compris sur des vies humaines. C'est tout l'enjeu du programme de recherche français Confiance.ai, dont les résultats ont été présentés en mars 2024 à Paris.
"L'erreur est malheureusement inhérente à un système d'apprentissage"
Il a été lancé début 2021, avant l'emballement actuel autour de l'IA générative, mais alors que l'apprentissage profond était déjà utilisé pour faire de la maintenance prédictive, détecter des défauts, calculer le temps de vie restant d'une machine, etc. "L'erreur est malheureusement inhérente à un système d'apprentissage, même en apprentissage profond, prévient Bertrand Braunschweig, coordinateur scientifique du programme. Donc il faut essayer d'augmenter la fiabilité."
Confiance.ai regroupe des industriels (Airbus, Thales, Naval Group, Renault…) et des organismes de recherche (CEA, Inria, instituts de recherche technologiques…), avec l'objectif de définir des méthodes pour valider et implémenter des intelligences artificielles dans les entreprises sans les exposer à des erreurs, voire des dommages. Les travaux ont été menés à partir de cas d'usage. Ainsi, un projet du groupe Renault permet d'inspecter les soudures par analyse d'image.
Différents algorithmes ont été testés sur des images dégradées pour voir lequel était le plus fiable, et un opérateur peut visualiser sur un écran la soudure "vue" et évaluée par l'IA. Chez Air Liquide, un système de vision par ordinateur compte les bonbonnes de gaz qui entrent et sortent des entrepôts. Or, la prise de vue et le comptage peuvent être parasités par la pluie et la neige. Un prétraitement par IA générative parvient à élimin[...]
