L’un des pères de l’IA quitte Google pour alerter sur les dangers de la course à l’innovation
Geoffrey Hinton, l’un des “pères fondateurs de l’intelligence artificielle (IA)”, quitte Google pour retrouver sa liberté de parole et publiquement mettre en garde contre les “risques” des plus récents développements des intelligences artificielles génératives, rapporte The New York Times. Les entreprises qui développent les programmes de type ChatGPT ou Midjourney “courent au-devant du danger”.
Le Britannique est l’un des pionniers des réseaux neuronaux, ces systèmes mathématiques d’apprentissage profond (deep learning). Dès 1972, “alors qu’il était étudiant à l’université d’Édimbourg”, il a l’intuition qu’ils allaient révolutionner l’informatique. Après avoir émigré aux États-Unis dans les années 1980, il quitte le laboratoire de l’université Carnegie Mellon quand celui-ci accepte les financements de l’armée américaine. Il s’oppose “à l’utilisation de l’intelligence artificielle sur le champ de bataille, ce qu’il nomme les ‘robots soldats’”.
En 2012, Geoffrey Hinton est à l’origine du premier “réseau neuronal capable d’analyser des milliers de photos et d’apprendre à identifier des objets courants, tels que des fleurs, des chiens et des voitures”, avec deux de ses étudiants canadiens – dont Ilya Sutskever, lequel co-fondera ensuite OpenAI, l’entreprise derrière ChatGPT.
Une course sans pilote
À 75 ans, le chercheur respecté qui travaillait depuis dix ans pour Google et avait refusé pour cette raison de signer les récents appels au moratoire sur l’IA, “a informé l’entreprise de sa démission”, explique le quotidien américain. Il reprend sa liberté pour expliquer dans les colonnes du journal que la course à l’innovation à laquelle se livrent les géants de la tech en matière d’IA “pourrait être impossible à interrompre”. Et ce d’autant qu’aucun n’a vraiment l’assurance de pouvoir en contrôler les étapes, dit-il.
L’Internet est déjà “inondé de fausses photos, de fausses vidéos et de faux textes”, explique-t-il. Et le citoyen lambda “n’est plus capable de savoir ce qui est vrai”. Ce lauréat du prix Turing 2018, l’équivalent du Nobel en informatique, “craint également que l’IA ne bouleverse à terme le marché du travail”. Si ChatGPT et les autres robots conversationnels “éliminent les tâches fastidieuses”, dit-il, “il se peut qu’ils éliminent bien plus que ça”.
[...] Lire la suite sur Courrier international