Une intelligence artificielle rejoint l'équipe du Premier ministre roumain

Le Premier ministre roumain a dévoilé un nouvel assistant personnel, entièrement géré par l'intelligence artificielle ou IA. Abritée dans un appareil futuriste, à mi-chemin entre un miroir et un écran d'ordinateur, l'IA s'appelle Ion.

Elle a été développée par des chercheurs pour analyser rapidement les opinions des citoyens roumains. La population va pouvoir échanger avec Ion via un chat sur le site web du projet.

L'IA devrait également explorer les réseaux sociaux pour comprendre ce dont les gens parlent et analyser l'opinion générale sur un sujet. Elle étudiera si un évènement suscite plutôt des réactions positives ou négatives par exemple.

Mais comment cet assistant peut-il aider le gouvernement roumain ? Pour Nicu Sebe, le coordinateur de l'équipe de recherche, Ion pourra faire des suggestions, mais il n'est pas à suivre à la lettre : "C'est comme prendre le pouls [de la population] en temps réel. Et un autre aspect important est qu'avec ce type de système, nous espérons toucher une grande partie de la population roumaine".

Si cette technologie est pour l'instant la première en son genre , elle pourrait avoir certains biais : "Ils ont utilisé le terme d'espace public, analyse Kris Shrishak, chargé de la technologie au Conseil irlandais pour les libertés civiles. et il semblait qu'ils assimilaient les médias sociaux à l'espace public, ce qui bien sûr est en soi problématique car tout le monde n'y est pas représenté. Certaines voix seraient amplifiées, surtout si vous postez régulièrement. Et c'est aussi la raison pour laquelle le public doit absolument savoir comment l'IA va choisir quelles voix il prend en compte et lesquelles vont fortement influencer la politique, quelle qu'elle soit".

Certains experts craignent que des "bots", des algorithmes spécifiques, ne commencent à spammer les réseaux sociaux, pour donner artificiellement de l'importance à un sujet.

Le Cube avait déjà couvert une campagne de spam par des bots pro-kremlin en Pologne il y a quelques mois. Des faux comptes sur les réseaux sociaux ont amplifié les hashtags anti-Ukraine sur Twitter, faisant croire à une opposition massive aux réfugiés ukrainiens.

C'est pourquoi, pour Kris Shrishak, une telle IA ne devrait pas être utilisée pour décider de la mise en place de politiques publiques. Elle pourrait en revanche servir à obtenir un retour sur des politiques qui ont déjà été mises en œuvre.

Les chercheurs qui travaillent sur Ion ont déclaré au Cube qu'ils suivraient de près le modèle et qu'ils mettraient en œuvre des changements si tout ne se passe pas comme prévu.