IA appliquée au diagnostic : 2 comités d’éthique rendent leur avis

Le Comité consultatif national d’éthique pour les sciences de la vie et de la santé (CCNE) et le Comité national pilote d’éthique du numérique (CNPEN) ont publié, le 10 janvier, un rapport sur les enjeux d’éthique de l’utilisation de l’intelligence artificielle (IA) dans le champ du diagnostic médical. Dans cet avis commun, le CCNE et le CNPEN dressent tout d’abord un panorama des systèmes d’intelligence artificielle appliqués au diagnostic médical (SIADM) et formulent 16 recommandations. Les deux comités consultatifs rappellent notamment que “les SIADM produisent des résultats basés d’une part sur des approches probabilistes et d’autre part qu’ils peuvent être entachés d’erreurs”. Les équipes soignantes et les patients doivent ainsi pouvoir prendre de la distance avec les résultats fournis, soulignent les deux instances consultatives, qui présentent les ressources permettant cette prise de recul. Tout SIADM doit en outre être soumis à un contrôle humain, précise le rapport, et ses résultats doivent être explicables.

Un “principe de bienfaisance”

“Le contrôle de conformité du SIADM, qui assure qu’il n’est pas dangereux et ainsi autorise sa mise sur le marché, doit être amélioré”, souligne le rapport qui propose que l’évaluation de son efficacité clinique prouve non seulement son absence de nocivité mais aussi qu’il  contribue efficacement au “principe de bienfaisance”. Enfin, s’agissant de la finalité des SIADM, le CCNE et le CNPEN recommandent qu’ils soient toujours utilisés “en priorité dans une optique d’amélioration du soin, avant les intérêts organisationnels, économiques, ou managériaux”.