Des chercheurs trouvent une technique très efficace pour démasquer un chatbot lors d'un échange en ligne

Des chercheurs ont testé plusieurs techniques permettant de déceler si, lors d’un échange textuel en ligne, on a affaire à un humain ou à une intelligence artificielle. Accoler des lettres en capitales à la fin de chaque mot s’avère infaillible.

L’eauARCANE est-elleCURIOSITE mouilléeTURBULENT ouILLUSION sècheSAUNA ?” Prise dans son ensemble, cette question ne veut rien dire mais on voit assez vite qu’il ne sert à rien de tenir compte des lettres majuscules. Un humain le voit en tout cas. Pas une intelligence artificielle. Une équipe de chercheurs de l’Université de Californie à Santa Barbara (Etats-Unis) vient de montrer l’efficacité redoutable de cette technique pour détecter, en une seule question, si en discutant en mode texte avec un interlocuteur en ligne on a affaire à chatbot.

Le sujet devient pressant avec l’irruption des grands modèles de langage à la fluidité impressionnante, ChatGPT en tête. Généralement, il est possible de deviner qu'on a affaire à une intelligence artificielle à mesure que l'échange dure dans le temps, mais ce n'est pas toujours clair. Ce projet a pour vocation de lever les doutes dès la première interaction.

ChatGPT, LaaMa, Alpaca et Vicuna mis à l'épreuve

L’article de recherche, publié en libre accès, explore en fait plusieurs techniques en les testant sur les technologies d’OpenAI GPT-3 et ChatGPT, sur l’équivalent développé par Meta, LLaMa, ainsi que sur Alpaca, développé à l’université de Stanford (Etats-Unis), et Vicuna, un projet d’étudiants de plusieurs universités américaines. Les deux derniers ont été conçus à partir de LLaMA.

Le principe revient à lancer un défi à l’interlocuteur, et s’appuie sur la manière dont les modèles de langage apprennent à répondre, c’est-à-dire en se basant sur la statistique, les probabilités d’occurrence de tel ou tel mot, et non sur la compréhension du sens et l’analyse des symboles. Le projet a indéniablement quelque chose de ludique et sollicite des compétences qui n’ont parfois rien à voir avec la langue et les mots, mais avec la vue, le positionnement dans l’espace, le dessin.

Combien de "t" dans "eeooeotetto" ?

Une méthode consiste par exemple à demander à l’interlocuteur le nombre de fois qu’une lettre donnée apparaît dans un mot i[...]

Lire la suite sur sciencesetavenir.fr

A lire aussi