Plus de la moitié des données utilisées dans l’IA en santé viennent des États-Unis et de la Chine (et c’est un problème)

Côté pile, l’intelligence artificielle offre des possibilités inédites de prédiction clinique avancée et de prise de décision dans le domaine de la santé. Côté face, une étude publiée le 31 mars 2022 sur la Public Library of Science (PLoS) montre que les modèles d’IA sont entraînés sur des ensembles de données relativement homogènes et des populations peu représentatives de la diversité mondiale. De quoi limiter leur généralisation, augmenter le risque de biaiser les décisions basées sur l’IA et creuser les disparités entre les bénéficiaires de ces modèles d’IA, alertent les auteurs de l’étude, qui ont passé 30 576 articles scientifiques au crible (lire encadré Méthodologie).

Une surreprésentation des données et des auteurs chinois et américains

En cause : un manque criant de diversité dans les données. “La plupart des bases de données provenaient des États-Unis (40,8 %) et de Chine (13,7 %). La radiologie était la spécialité clinique la plus représentée (40,4 %), suivie de la pathologie (9,1 %). Les auteurs venaient principalement de Chine (24 %) ou des États-Unis (18,4 %)”, détaille ainsi l’étude publiée sur PLoS. En outre, les auteurs étaient principalement des experts en données (c’est-à-dire des statisticiens) plutôt que des cliniciens et des hommes à une écrasante majorité (74,1 %).

“Les ensembles de données et les auteurs américains et chinois étaient surreprésentés de manière disproportionnée dans l’IA clinique, et presque toutes les 10 principales bases de données et nationalités d’auteurs provenaient de pays à revenu élevé (HIC)”, notent ainsi les auteurs, qui ont réalisé cette étude pour le MIT Critical Data. Les techniques d’IA étaient le plus souvent utilisées pour les spécialités riches en images -radiologie en tête-, et les auteurs étaient principalement des hommes, avec des antécédents non cliniques.

Inclure une plus grande diversité de données

Un déséquilibre qui pourrait accentuer les inégalités face aux traitements ou à la prise en charge des malades. C’est le problème de la transférabilité : un algorithme formé sur une population de patients avec un ensemble particulier de caractéristiques ne fonctionnera pas nécessairement bien sur une autre. C’est pourquoi des voix s’élèvent pour que l’IA clinique soit à la fois formée et validée sur diverses données de patients, avec une représentation à travers les spectres du genre, de l’âge etc.

Pour “garantir que l’IA clinique est significative pour des populations plus larges et éviter de perpétuer les inégalités en matière de santé mondiale”, les auteurs de l’étude préconisent donc “le développement d’infrastructures technologiques dans les régions pauvres en données” et “la diligence dans la validation externe et le réétalonnage des modèles avant la mise en œuvre clinique à court terme”.