Publicité

L’IA générative, une arme bien maîtrisée dans les mains des cybercriminels

Le Clusif, l’association française des professionnels de la sécurité informatique, a présenté le 23 janvier 2023 son panorama annuel de la cybercriminalité. Signes des temps, l’intelligence artificielle, et en particulier les modèles de langage, n’ont pas tardé à être détournés pour des usages frauduleux.

Cela peut sembler improbable pour une superstar de ce niveau, mais la chanteuse américaine Taylor Swift offrait courant janvier 2024 des cocottes Le Creuset sur Facebook et TikTok. Improbable, oui, et pour cause : il s’agit d’une escroquerie à base d’intelligence artificielle. La voix de la chanteuse a été générée automatiquement et plaquée sur une vidéo pour créer l’illusion que Taylor Swift s’adressait à ses fans. Ces derniers étaient invités à répondre à un questionnaire et à fournir leurs coordonnées bancaires pour les frais de port. Ni la star, ni Le Creuset ne sont derrière cette opération. Mais l’histoire illustre bien comment l’IA, en particulier sa version générative, est déjà utilisée par les cybercriminels.

Le sujet a constitué l’un des moments forts du panorama annuel de la cybercriminalité du Clusif, l’association française des professionnels de la sécurité informatique, présenté le 23 janvier 2024.

L'IA à disposition du grand public

C’est l’un des effets secondaires de la mise à disposition d’outils comme ChatGPT ou Bard. "L’IA est sortie des laboratoires pour devenir un outil grand public, note Gérôme Billois, expert en cybersécurité chez Wavestone, et a attiré l’attention d’un certain nombre d’attaquants, plus ou moins chevronnés mais qui ont su tirer parti des spécificités des systèmes d’intelligence artificielle. Comme le fait que les entrées peuvent être variées, du texte, des images, en passant par le même canal."

L’aspect non-déterministe de ces technologies, qui peuvent fournir des réponses différentes à une même question, leur non-compréhension du sens des mots et leur apprentissage statistique sont autant de failles exploitables. Aux Etats-Unis, un concessionnaire Chevrolet californien a ainsi intégré à son site internet un agent conversationnel basé sur ChatGPT. Or un client a réussi à faire en sorte que l’outil lui fasse une "offre juridiquement contraignante" d’un véhicule à un dollar, au lieu de 58.195 dollars…

Piégé par un mot

Mais il y [...]

Lire la suite sur sciencesetavenir.fr

A lire aussi