Comment les chatbots et l’IA pourraient perpétuer le racisme dans la prise en charge médicale

Ces derniers mois, l'intelligence artificielle est devenue un véritable phénomène de société, prenant une place prépondérante dans nos vies. ChatGPT, Google Bard ou Bing Chat sont désormais utilisés au quotidien. Mais derrière l'efficacité accrue, se cache une réalité plus fâcheuse, avec des dérives difficilement évitables.

Les hôpitaux et autres services de santé ont ainsi choisi de faire confiance à l'intelligence artificielle, notamment pour résumer les notes des médecins. Ceci permet de gagner en efficacité, offrant également une plus grande disponibilité et de facto, un meilleur accueil, aux patients. Mais une étude, menée par des chercheurs de la Stanford School of Medicin, selon l'agence Associated Press, remettrait en cause ce tableau coloré.

En effet, les scientifiques craignent que ces IA se basent sur des croyances racistes et démystifiées, propageant des ides reçues sur les patients noirs. Pour cause, ces systèmes se basant sur des textes présents sur Internet, ils reprendraient des idées fausses et de mensonges, voire même des études basées sur la race.

Pour les experts, il subsiste une crainte selon laquelle ces systèmes pourraient causer des dommages réels, perpétuant le racisme médical existant depuis des générations. Or les chatbots sont devenus essentiels dans le monde hospitalier, les médecins l'utilisant pour certaines tâches de la vie courante ou appeler les patients.

Les scientifiques ont testé ChatGPT et le GPT-4 plus avancé, tous deux d'OpenAI ; Bard de (...)

(...) Cliquez ici pour voir la suite

Angoisse : voici comment elle nous affecte tous les jours !
Angoisse : voici comment elle nous affecte tous les jours !
Comment la dépression diffère-t-elle de la tristesse et de la douleur émotionnelle ?
Comment la dépression diffère-t-elle de la tristesse et de la douleur émotionnelle ?
Sommeil : 4 choses à ne pas faire en cas d'insomnie