Une intelligence artificielle fait dire n'importe quoi à n'importe qui

Donald Trump, Emma Watson, ou bien un ami proche... Une start-up qui propose de cloner des voix a fait parler d'elle ce week-end à cause des abus de certains internautes. À l'origine, ElevenLabs a pour but de mettre en son des textes, afin de raconter des histoires de manière dynamique, grâce à une voix créée par une intelligence artificielle. Mais dans sa version beta, qui était jusqu'ici gratuite, il est possible de fournir un exemple de voix via un fichier son (celle de votre acteur préféré ou bien de votre mère, par exemple) d'une minute maximum afin qu'elle soit clonée. On indique ensuite quel texte cette voix doit dire.

BFMTV a par exemple fait parler Donald Trump, qui a dit du bien du chanteur Eddy Mitchell, ou encore Barack Obama, qui s'est plaint du métro parisien. Il s'agit d'un deepfake, une manipulation vidéo ou sonore de la réalité. Son utilisation peut s'avérer plutôt créative, mais peut aussi aller trop loin. Sur Twitter, une vidéo d'Emma Watson lisant Mein Kampf, l'ouvrage d'Adolf Hitler, est toujours largement partagée. Les réalisateurs Quentin Tarantino et George Lucas ont également vu leurs voix détournées par les internautes, tandis que les clones vocaux des commentateurs ultra-conservateurs américains Joe Rogan et Ben Shapiro ont tenu des propos sexistes, homophobes et racistes.

La start-up, créatrice de cet "outil de synthèse vocale ultra-réaliste" a voulu rectifier le tir en début de semaine, avouant sur Twitter "un nombre croissant de cas d'utilisation abusive (...)

(...) Cliquez ici pour voir la suite

Pourquoi mange-t-on des crêpes à la Chandeleur ?
Qui dirige le Canada ?
Qui a inventé le chignon ?
Une carte mondiale du sommeil réalisée grâce à un jeu vidéo
Comment enlever une tache de bougie sur une nappe ?