Yahoo Actualités Elections en France : l'extrême droite utilise l'IA pour appuyer ses messages politiques
Les partis d'extrême droite européens ont utilisé des images générées par l'intelligence artificielle (IA) pour soutenir leurs messages politiques, selon deux nouveaux rapports, mais il est difficile d'évaluer l'impact que ces images ont pu avoir sur les récentes élections françaises et européennes.
L'organisation à but non lucratif AI Forensics a parcouru les pages des médias sociaux de 31 partis politiques français pour déterminer s'ils pouvaient repérer du contenu généré par l'IA (genAI) entre le 1er mai et le 28 juin, pendant les élections européennes et le premier tour de la campagne législative française.
Ils ont ensuite soumis ces images à des moteurs de recherche liés à l'IA pour vérifier qu'un outil d'IA les avait créées.
Au total, l'équipe a découvert 51 cas d'images d'IA générative utilisées par des partis français, le Rassemblement national (RN), Reconquête et Les Patriotes étant les plus impliqués, mais les chercheurs précisent qu'il s'agit d'une estimation prudente.
"C'est le premier cycle électoral où l'IA (générative) existe, mais nous sommes sûrs que dans les années à venir, elle sera de plus en plus utilisée", a déclaré Salvatore Romano, chercheur chez AI Forensics, à Euronews Next.
"Si nous ne sommes pas capables de gérer cela maintenant, alors que l'échelle est si petite, ce sera plus difficile à gérer lorsque la technologie ne pourra plus être distinguée du contenu réel", a-t-il ajouté.
Le parti d'extrême droite RN est arrivé en tête du premier tour des élections françaises dimanche dernier, avec 33 % des voix, et des élections européennes de juin, où il a obtenu 31,5 % des voix.
Où le contenu généré par l'IA est-il apparu ?
La plupart des images de campagne générées par l'IA et utilisées par les partis français "véhiculent des messages anti-immigration, d'insécurité en France, d'absence de liberté d'expression, d'un système judiciaire défectueux et d'une faible protection de l'agriculture", selon le rapport d'AI Forensics.
"Les images sont utilisées comme une technique d'incitation à la peur pour dire que la France n'est pas en sécurité dans l'UE et qu'elle s'en prend aux personnes vulnérables de notre société", a ajouté Miazia Schüler, chercheuse à AI Forensics.
Ces images sont souvent "hyperréalistes", c'est-à-dire que l'utilisateur moyen peut clairement voir qu'elles ont été créées par l'IA, a expliqué Mme Schüler.
D'autres étaient plus subtiles, comme des imitations de caricatures politiques que l'on trouve dans les journaux.
Certains partis, comme le parti d'extrême droite Reconquête, ont également utilisé l'IA générative pour créer des images du président français Emmanuel Macron et de la commissaire européenne Ursula Von Der Leyen.
Pendant la campagne européenne, le RN a créé un site web intitulé "L'Europe sans eux" dans la période précédant les élections, qui remettait également en question les positions de leadership de Macron et de Von Der Leyen, selon une étude du Digital Forensic Research Lab (DFRLabs) de l'Atlantic Council.
Le site web, toujours en ligne, contient au moins trois images générées par l'IA : des pétitions contre "le mépris de l'UE pour les peuples, l'immigration massive et la promotion du hijab", selon le rapport.
La partie émergée de l'iceberg
Valentin Chatelet, chercheur à l'Atlantic Council, a déclaré qu'il était "difficile" de savoir quel impact ce type de contenu généré par l'IA a eu sur le succès du RN aux élections européennes et françaises.
"Je pense que cela a un impact positif sur le matériel que le parti utilise pour transmettre une idée particulière, comme la position particulière de M. Bardella sur une question", a déclaré M. Chatelet.
"Les images (générées par l'IA) sont également utilisées pour choquer les gens... jusqu'à ce qu'elles deviennent courantes", a-t-il ajouté.
Euronews Next a contacté le Rassemblement national (RN), le groupe Identité et Démocratie, les Patriotes et Reconquête, mais n'a pas reçu de réponse.
Les candidats du RN ont reçu une formation à l'IA, y compris à l'utilisation du ChatGPT depuis janvier 2024, selon la chaîne de télévision française BFMTV. Le livret de formation donne des exemples de la manière dont l'IA peut aider les candidats politiques, comme la création d'affiches de campagne et la recherche d'arguments pour les débats, a rapporté le radiodiffuseur.
Ni l'étude d'AI Forensics ni celle du DFRLabs du Conseil atlantique ne se sont penchées sur les messages personnels des candidats ni sur le contenu créé par les fanbases des partis.
Salvatore Romano estime que leur étude n'est que "la partie émergée de l'iceberg" en ce qui concerne la quantité de contenu électoral non étiqueté circulant sur les plateformes de médias sociaux.
Négligence grave des entreprises technologiques en matière d'utilisation de l'IA
Le rapport d'AI Forensics a révélé qu'aucune des images générées par l'IA n'était étiquetée en tant que telle.
"Nos conclusions révèlent une négligence grave de la part des partis politiques et des plateformes qui ne respectent pas leurs engagements en matière d'étiquetage des images générées par l'IA dans le cadre de leurs campagnes politiques, soulignant ainsi le besoin urgent de transparence", peut-on lire dans le rapport.
Les grandes entreprises technologiques telles que Google, OpenAI, Meta et TikTok ont signé en février un accord sur la technologie ouverte qui "définit les attentes quant à la manière dont les signataires gèreront les contenus électoraux trompeurs générés par l'IA" sur leurs plates-formes avant les élections européennes.
Le premier engagement de cet accord est que les plateformes "(identifient) les images réalistes générées par l'IA et/ou (certifient) l'authenticité du contenu et son origine", peut-on lire dans une copie de l'accord .
Les géants de la Tech ont également promis de revoir leurs modèles afin de "comprendre les risques qu'ils peuvent présenter" pour les contenus trompeurs générés par l'IA.
Certains partis politiques ont signé leur propre version de cet accord avec la Commission européenne, qui s'est engagée à "prévenir la tromperie délibérée du public, y compris par l'utilisation de l'intelligence artificielle", peut-on lire dans une copie de l'accord.
Le groupe Identité et Démocratie (ID) du Parlement européen a signé ce code de conduite, dont le RN est membre. Les autres partis nationaux français ne l'ont pas fait.
Salvatore Romano a indiqué qu'AI Forensics enverrait son rapport à la Commission européenne dans l'espoir qu'il y ait une forme de répercussion contre les partis qui enfreignent ces codes de conduite.
