Yahoo Actualités Un Américain emprisonné pour avoir généré des images pédopornographiques avec Stable Diffusion
Un Américain a été arrêté pour avoir possédé, produit et distribué des images à caractère pédopornographiques et d’abus sur enfant. Jusque-là, hélas, rien de très nouveau. Sauf que cet habitant du Wisconsin avait créé lui-même ces photos, en utilisant un outil de génération d’image par intelligence artificielle, a annoncé le ministère de la Justice américain le 20 mai 2024.
« L’annonce d’aujourd’hui envoie un message clair : l’utilisation de l’IA pour produire des images sexuellement explicites d’enfants est illégale », indique le ministère dans son communiqué de presse. « En d’autres termes, le matériel pédopornographique généré par l’intelligence artificielle reste du matériel pédopornographique, et nous demanderons des comptes à ceux qui exploitent l’intelligence artificielle pour créer des images obscènes, abusives et de plus en plus photoréalistes d’enfants. »
Les images pédopornographiques générées par IA sont un immense problème
L’homme arrêté « aurait utilisé un modèle d’intelligence artificielle générative texte-image appelé Stable Diffusion pour créer des milliers d’images réalistes de mineurs prépubères », indique également le ministère. Stable Diffusion est un outil qui fonctionne sur le même principe que Midjourney : les utilisateurs doivent rentrer un « prompt », une commande écrite, pour que l’IA leur présente un résultat. Stable Diffusion est gratuit, open-source, et fonctionne dans des versions en ligne, ou bien en le faisant tourner localement, sur son ordinateur.
Créer des images à caractère pornographique est interdit sur Midjourney et Stable Diffusion
Les outils de génération d’images par IA,
Crédits photos de l'image de une : Un homme devant un ordinateur // Source : Numerama
