Pour apporter plus de transparence aux modèles d’IA en santé et diminuer les risques d’erreur, leurs concepteurs traquent, analysent et corrigent tout biais ou anomalie systémique susceptible d’altérer le résultat produit par l’algorithme. Ces efforts perdurent pendant tout le cycle de vie des modèles. Quelles sont les techniques à l’œuvre ?
Chaque fournisseur de modèle y va de sa méthode pour réduire au maximum les biais inhérents aux modèles et ajuster les prédictions dans le monde réel. Ces corrections peuvent intervenir au niveau du set de données d’entraînement, lors de la phase d’apprentissage du modèle d’IA et sur les résultats des prédictions.
Agir sur les sets de données
Ces corrections interviennent parfois très tôt dans le cycle de développement, dès la constitution du set de données d’entraînement. La start-up Quantiq.io a été confrontée à cette problématique pour son application mobile qui analyse les constantes vitales. Ce système de diagnostic médical sans contact utilise la caméra d’un appareil mobile pour prendre le rythme cardiaque ou encore la fréquence respiratoire. Il est par nature très sensible à son environnement. Bonne nouvelle cependant : la couleur de peau, le mouvement et la lumière sont des limites de fonctionnement de l’algorithme qui peuvent être atténuées dès l’amont.
La couleur de peau a mis au défi la robustesse de la technologie optique employée par la start-up. “Plus la couleur de peau est foncée, plus elle contient de mélanine qui absorbe la lumière sans émettre d’information” explique Fabien Niel, directeur technique et cofondateur de Quantiq.io, à mind Health. Or, moins l’hémoglobine absorbe la lumière, moins le signal est fort, ce qui impacte le résultat. “Ça a été un défi pour réussir à dépasser cela” reconnaît Fabien Niel.