Intelligence artificielle : comment les biais influencent les modèles en santé ?

Loin d’être anodins, les biais peuvent entraîner des erreurs de sens et de diagnostic préjudiciables pour les patients. Qu’il s’agisse de machine learning ou de deep learning, les développeurs recherchent l’explicabilité de leurs algorithmes d’IA, dans l’objectif de prouver la fiabilité des modèles et leur efficience dans un contexte réel. La tâche est colossale. mind Health a interrogé plusieurs experts pour décortiquer les principaux enjeux : Quels sont les différents types de biais qui menacent les systèmes d’IA ? Comment les détecter ? L’IA générative est-elle un amplificateur de biais ? 

Un large spectre

Les biais de l’IA font référence à l’apparition d’anomalies dues à des orientations humaines et cognitives qui faussent les données d’entraînement ou le modèle algorithmique en lui-même. Cela peut entraîner des résultats inexacts, voire potentiellement dangereux. On parle par exemple de biais de sélection, lorsqu’il s’agit de l’effet d’une censure sur une sous-population, de biais de représentation, causé par un manque de diversité inhérent à une source de données, ou encore de biais historiques, lorsqu’il est déjà présent dans le monde réel et se reproduit dans les données. 

Cette palette d’anomalies donne du fil à retordre aux spécialistes de l’intelligence artificielle. De l’aveu d’Eric Durand, SVP Data Science chez Owkin, “c’est un sujet très vaste et il y a potentiellement beaucoup de choses qui se cachent derrière le mot « biais”. De manière générale, Eric Durand assimile ces fameux biais à “des erreurs systématiques que les modèles font, causées notamment par les biais préexistants dans les données d’apprentissage”. Ces dernières, amassées au fil des années dans les bases de données médicales, peuvent en effet être tronquées, altérées, voire inexactes.

Les biais algorithmiques existent également mais ils sont généralement “plus difficiles à cerner”, étant donné qu’ils font partie du fonctionnement même de l’algorithme, commente le Pr Jean-Emmanuel Bibault, cancérologue à l’hôpital Pompidou et chercheur en intelligence artificielle.