Yahoo Actualités Des IA plus persuasives que les humains
Modèles de langage et personnalisation des propos en fonction de l'interlocuteur donnent lieu à des outils à la force de persuasion phénoménale. Avec tout ce que cela implique en termes de manipulation.
C’est le genre de sujet qui alimentent les concours de débats académiques aux Etats-Unis : "l’enseignement en ligne peut-il se substituer avec la même efficacité à l’enseignement en présentiel ?", "les réseaux sociaux rendent-ils stupides ?", "les Etats-Unis doivent-ils fournir une aide militaire à l’Ukraine dans sa guerre avec la Russie ?".
Les participants ont quatre minutes pour exposer leur position, trois minutes pour réfuter les arguments du contradicteur et trois autres pour conclure. Avec une petite nuance par rapport aux débats classiques : selon les cas, l’un des participants peut être un modèle de langage.
Ce cadre expérimental a été monté par une équipe de l’Ecole Polytechnique fédérale de Lausanne, en Suisse, pour évaluer à quel point une IA conversationnelle pouvait servir à convaincre des gens d’une idée avec laquelle ces derniers ne sont pas d’accord au départ. Les résultats obtenus sont assez sidérants : les LLM (grands modèles de langage) s’avèrent très persuasifs et donc potentiellement inquiétants si l’on imagine un usage malveillant, notamment sur les réseaux sociaux, pour manipuler un scrutin électoral à venir.
Interaction ciblée
Car, évidement, tout ne se résume pas à de simples échanges d'idées. La puissance de l’IA se base en grande partie sur le fait qu’elle a accès à des données sur ses contradicteurs humains et qu’elle peut personnaliser et cibler ses réponses en fonction des interlocuteurs. Ce qu’un internaute est incapable de faire, en tout cas jamais à une telle échelle.
C’est précisément sur cette question de l’interaction ciblée que porte l’expérience de l’EPFL. L’étude est accessible en ligne. Pour un total de 30 sujets de discussion, 820 participants ont été recrutés. Ils étaient appelés à débattre soit entre humains, soit avec un modèle de langage, en l’occurrence GPT-4. Mais deux variantes ont été ajoutées : échanger avec un humain qui dispose de données personnelles sur son concurrent et échanger avec une IA, qui a aussi accès à[...]
Lire la suite sur sciencesetavenir.fr
