L’intelligence artificielle pourrait être utilisée pour manipuler les diagnostics médicaux

1 / 2

L’intelligence artificielle pourrait être utilisée pour manipuler les diagnostics médicaux

Des chercheurs alertent sur la généralisation de l'intelligence artificielle dans la médecine. Ils craignent une manipulation des données aux dépends des patients pour augmenter le profit des hôpitaux et des assureurs.

L’intelligence artificielle pourrait aider les médecins à diagnostiquer plus rapidement certaines maladies. Mais ce n’est pas sans risques, préviennent plusieurs chercheurs dans une étude publiée dans la revue Science, repérée par le New York Times. Car des petites manipulations peuvent changer radicalement le comportement de l’intelligence artificielle (IA). Par exemple pour détecter une maladie qui n'existe pas.

À qui profite le crime?

Les chercheurs formulent plusieurs hypothèses. Des médecins, hôpitaux ou autres organisations pourraient manipuler l’intelligence artificielle pour facturer des soins non nécessaires. Ainsi, modifier quelques pixels de l’image d’une lésion cutanée bénigne permettrait de tromper le système de diagnostic basé sur l’intelligence artificielle, afin qu'il l'interprète comme une lésion maligne.

Une telle interprétation impliquerait le début d'un traitement et donc un gain financier pour l'entreprise prodiguant les soins, pourtant non nécessaires. Selon les chercheurs, le jour où l’intelligence artificielle sera largement utilisée dans nos systèmes de soins, les entreprises adopteront progressivement le comportement qui leur rapporte le plus d'argent.

Comment tromper une intelligence artificielle?  

Les intelligences artificielles utilisées en médecine se basent en partie sur des réseaux neuronaux, des programmes mathématiques complexes,...

Lire la suite sur BFMTV.com

A lire aussi