L’IA permet d’identifier les biais cognitifs dans le soin

Dans les situations d’urgence de soin, les biais cognitifs humains, en particulier ceux dits “de jugement”  (et liés par exemple au sexe/genre, à l’âge, à l’ethnie), peuvent impacter le pronostic du patient. Une équipe de recherche de l’Inserm et de l’Université de Bordeaux a cherché à savoir comment une IA générative, entraînée avec les dossiers patients correspondants à 480 000 entrées aux urgences du CHU de Bordeaux, pouvait permettre de reproduire ces biais et de les mesurer. Selon les résultats de cette étude, publiés dans la revue Proceedings of Machine Learning Research, l’IA entraînée est capable d’attribuer un score de triage (évaluant la sévérité de l’état du patient) à partir de la lecture d’un dossier, comme le ferait le soignant. Le dossier est ensuite maquillé, de façon à modifier le genre de la personne, et un nouveau score est attribué par le modèle. La différence entre ces deux notations permet l’estimation du biais cognitif.

À noter : Les résultats de cette étude ont permis de démontrer un biais cognitif au détriment des femmes : à dossiers cliniques identiques, la sévérité de leur état avait tendance à être sous-évaluée par rapport à celle des hommes. L’IA peut également avoir ses propres biais, nous rappelle un récent dossier de mind Health.