ChatGPT : même le patron d’OpenAI, qui a créé l’interface, demande aux gouvernements d’intervenir

CHATGPT - L’intervention des gouvernements pour réguler l’intelligence artificielle (IA) va être « cruciale » afin de « limiter les risques » liés à cette technologie, a plaidé ce mardi 16 mai Sam Altman, le patron d’OpenAI, créateur de l’interface ChatGPT, qui déchaîne les passions.

« Il est essentiel que l’IA la plus puissante soit développée avec des valeurs démocratiques », a estimé le jeune entrepreneur devant une commission parlementaire américaine, « ce qui signifie que le leadership des États-Unis est déterminant ».

La mise en ligne de ChatGPT, en novembre, a suscité un immense intérêt du public et des entreprises pour l’intelligence artificielle dite générative, c’est-à-dire capable de créer du contenu - texte, images, sons ou vidéo - après avoir été entraînée sur d’immenses bases de données.

« Ce ne sont plus des fantasmes de science-fiction »

« Si vous écoutiez de la maison, vous avez sans doute pensé que c’était ma voix et mes mots, alors que ce n’était ni ma voix, ni mes mots », a déclaré le sénateur Richard Blumenthal, qui préside la sous-commission du Sénat sur la protection de la vie privée, la technologie et le droit.

Il venait de faire entendre ses remarques préliminaires sur les dangers de l’IA, rédigées avec ChatGPT et lues par un logiciel entraîné sur sa voix réelle.

Les technologies d’IA « ne sont plus des fantasmes de science-fiction, elles sont réelles et présentes », a-t-il ajouté.

« Détruire nos vies »

Les élus ont débattu avec Sam Altman et deux autres experts de la nécessité de réguler des systèmes informatiques qui pourraient « littéralement détruire nos vies », selon la formule du sénateur Lindsey Graham.

Le Congrès américain évoque régulièrement la nécessité de réguler internet, pour mieux protéger la confidentialité des données et favoriser plus de concurrence. Mais les divisions politiques bloquent la plupart des propositions de loi depuis des années.

Le déploiement rapide de l’IA générative par OpenAI, Microsoft et Google a relancé la question de la régulation des technologies.

Beaucoup s’inquiètent de son impact potentiel sur une série de professions, de possibles suppressions d’emplois massives ou du vol de propriété intellectuelle des artistes, auteurs, compositeurs, développeurs informatiques...

Une amélioration, mais aussi un « risque sérieux »

Les sénateurs ont passé de nombreux domaines en revue, comme les algorithmes biaisés ou la propagation de désinformation de plus en plus sophistiquée.

« L’intelligence artificielle a le potentiel d’améliorer à peu près tous les aspects de nos vies, mais elle crée aussi des risques sérieux », a reconnu Sam Altman.

« L’une de mes plus grandes peurs, c’est que nous, cette industrie, cette technologie, causions des dommages significatifs à la société », a-t-il affirmé. « Si cette technologie va dans le mauvais sens, elle peut aller assez loin. (...) Et nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise. »

Vers la création d’une agence fédérale

Le trentenaire a rappelé que si OpenAI LP, l’entité qui a développé ChatGPT, était une société privée, elle était contrôlée par une organisation à but non lucratif. Elle « nous impose d’œuvrer à la large distribution des bénéfices de l’IA et à maximiser la sécurité des systèmes basés sur l’IA », a-t-il ajouté.

Sam Altman s’est régulièrement dit favorable à la mise en place d’un cadre réglementaire pour l’intelligence artificielle, de préférence au niveau international. « Je sais que ça paraît naïf de proposer quelque chose comme ça, cela semble très difficile » à réaliser, mais « il y a des précédents », a-t-il expliqué, évoquant l’exemple de l’Agence internationale de l’énergie atomique (AIEA).

L’idée de créer une agence fédérale a suscité un certain enthousiasme, mais il faudrait qu’elle soit dotée de ressources suffisantes, a souligné Richard Blumenthal. « Et je ne parle pas juste de dollars, je parle d’expertise scientifique », a-t-il précisé.

Sam Altman a cependant noté que la régulation n’était elle-même pas sans risques. « Si l’industrie américaine ralentit, la Chine ou quelqu’un d’autre peut progresser plus vite », a-t-il alerté. Il a aussi insisté pour que d’éventuelles mesures ne viennent pas étouffer la recherche indépendante, et se concentre plutôt sur les entreprises dominantes comme la sienne.

À voir également sur Le HuffPost :

« En tant que psy, il va falloir faire avec la présence déjà accablante de ChatGPT »

La liberté de la presse « noyée » sous la désinformation, déplore RSF