La Mayo Clinic développe un outil pour évaluer la sensibilité aux biais des modèles d’intelligence artificielle

La Mayo Clinic a annoncé, le 10 novembre, le lancement d’un nouveau produit à destination des développeurs de technologies de santé pour évaluer la précision et la sensibilité aux biais des modèles d’intelligence artificielle (IA). Baptisé Platform_Validate, le programme confirme l’efficacité et la crédibilité des algorithmes nouvellement développés et garantit qu’ils sont adaptés à l’usage auquel ils sont destinés. La Mayo Clinic espère ainsi lutter contre le scepticisme entourant l’utilisation de l’IA dans des programmes de soins ou de diagnostic. Selon elle, de la même manière qu’un étiquetage nutritionnel détaille les ingrédients d’un produit, Validate pourrait décrire le fonctionnement d’un algorithme face à différents scénarios, incluant des données portant sur l’ethnie, le sexe ou les caractéristiques socio-économiques. 

À noter : La FDA s’intéresse de plus en plus à la question des inégalités de santé.