Attention, un chatbot est un robot et pas un être humain

·2 min de lecture

Un avis sur les enjeux éthiques des agents conversationnels, plus connus sous le nom de "chatbots", a été remis mardi 9 novembre par le Comité national pilote d’éthique du numérique (CNPEN), selon lequel de multiples recherches sont indispensables pour que ces robots ne manipulent pas nos opinions et ne nous induisent pas en erreur, notamment dans le domaine de la santé. Il énonce 13 préconisations pour que les concepteurs ne fabriquent pas de machines créant un dangereux brouillage entre humain et non-humain.

A l’heure où la lanceuse d’alerte Frances Haugen a dénoncé, ce mercredi 10 novembre, à l’Assemblée nationale les agissements de Facebook, , émis par le Comité national pilote d’éthique du numérique (CNPEN) et présenté mardi 9 novembre par ses deux rapporteurs Laurence Devillers et Alexei Grinbaum, ne pouvait pas mieux tomber. Il fait suite au "Manifeste pour une éthique numérique" qui rappelle à quel point "le numérique bouleverse le rapport à l’autre ; Il interroge la notion d’intimité à travers l’exposition de la vie privée à une échelle inédite dans l’histoire humaine ; la manière dont nous considérons l’autonomie humaine, les rapports sociaux et politiques est remise en jeu".

L’histoire de Joshua Barbeau, ce Canadien qui a conversé pendant plusieurs mois avec Jessica, sa fiancée morte des années auparavant, via un chatbot (un agent conversationnel) créé par lui grâce à un logiciel d’intelligence artificielle, le GPT-3, est bouleversante. En juillet dernier, au qui a dévoilé cette saga d’incroyables échanges, il a raconté à quel point "intellectuellement [il savait] que ce n’était pas réellement Jessica, sauf que vos émotions ne sont pas quelque chose d’intellectuel". Doté par Joshua de caractéristiques de Jessica, le chatbot a pu recréer l’illusion fascinante de la présence de cette femme morte, pour son créateur même.

Des machines capables "d'engager une conversation libre sur beaucoup de sujets"

Cette question des robots, qui se présentent avec un nom, une personnalité, une capacité de dialogue social avec une voix particulière, donc de tenir une conversation – le "chat" en anglais, d’où le nom de chatbots - est au cœur de l’avis sur "les enjeux éthiques des agents conversationnels", annoncé mardi 9 novembre par le Comité national pilote d’éthique du numérique (CNPEN). Comme pour Joshua, il ne s’agit plus de fiction, telle que racontée dans le film "Her" de Spike Jonze, où l’on voyait l’écrivain Théodore tomber amoureux du logiciel d’intelligence artificielle[...]

Lire la suite sur sciencesetavenir.fr

Notre objectif est de créer un endroit sûr et engageant pour que les utilisateurs communiquent entre eux en fonction de leurs centres d’intérêt et de leurs passions. Afin d'améliorer l’expérience dans notre communauté, nous suspendons temporairement les commentaires d'articles