Le plan d’action de la FDA pour réglementer les DM intégrant de l’IA

Après avoir ouvert à commentaires en avril 2019 une ébauche de cadre réglementaire, la Food & Drug Administration (FDA), l’agence du médicament américaine, a publié le 12 janvier 2021 son “plan d’action” quant au marché des logiciels considérés comme dispositifs médicaux (software as a medical device, SaMD) et basés sur de l’intelligence artificielle (IA) ou du machine learning. Il émane de son tout nouveau Digital Health Center of Excellence, qui officie depuis septembre dernier au sein du Center for Devices and Radiological Health (CDRH). Ce document de sept pages repose justement sur les commentaires reçus sur le cadre réglementaire proposé en 2019 et dessine l’engagement de l’agence en matière de soutien à l’innovation. Il se résume en cinq actions que la FDA entend suivre : développer plus avant ce cadre réglementaire, notamment en émettant des recommandations, accompagner le développement de bonnes pratiques en matière de machine learning pour l’évaluation et l’amélioration des algorithmes, encourager une approche centrée sur le patient, développer des méthodes d’évaluation et d’amélioration des algorithmes de machine learning et faire progresser des pilotes de suivi de la performance en vie réelle. 

1. Développer le cadre réglementaire

La FDA annonce d’ores et déjà une mise à jour de l’ébauche proposée en 2019, incluant un pré-cahier des charges pour les SaMD, qui décrit la stratégie de mise à jour du produit et la méthodologie employée (Algorithm Change Protocol, ACP) pour implémenter ces mises à jour, à savoir comment l’algorithme apprend et modifie le dispositif tout en restant sûr et efficace. Cette mise à jour de la FDA se traduira par une proposition de recommandation qui sera également ouverte à commentaires et que l’agence espère publier dans le courant de l’année.

2. Développer des standards

Sollicitée sur ce sujet, la FDA planchera sur l’harmonisation des bonnes pratiques en matière de machine learning, concernant par exemple la gestion de la donnée, leur extraction, l’entraînement de l’algorithme, l’interprétabilité, l’évaluation ou la documentation. Pour ce faire, elle avisera les différentes initiatives prises sur ces sujets et poursuivra elle-même sa participation à des groupes de travail sur la définition de standards. Elle indique également que ce travail se fera en ligne avec son programme de cybersécurité.

3. Encourager une approche centrée sur le patient 

La FDA annonce un atelier public portant sur la transparence du fonctionnement des dispositifs médicaux (DM) envers leurs utilisateurs lorsqu’ils utilisent de l’IA ou du machine learning, qui pourrait améliorer la confiance des patients dans ces technologies souvent opaques. Pour l’agence, “promouvoir cette transparence est un principe clé d’une approche centrée sur le patient”. Lors de cet atelier, elle partagera les enseignements de sa réunion menée avec des patients et des professionnels de santé en octobre 2020 sur ces technologies : “nous prendrons en compte cette contribution pour identifier les éléments d’information que la FDA recommanderait à un fabricant d’inclure”.

4. Développer des méthodes d’évaluation

L’agence entend soutenir les efforts de la science réglementaire pour développer une méthodologie d’évaluation et d’amélioration des algorithmes de machine learning, notamment pour l’identification et l’élimination des biais, et d’évaluation et de promotion de la fiabilité des algorithmes. Elle poursuivra donc ses collaborations avec les universités John Hopkins et Stanford, pour ne citer qu’elles.

5. Performance en vie réelle

Enfin, la FDA travaillera avec les acteurs de l’écosystème, sur la base du volontariat, à la définition d’un suivi de la performance en vie réelle des SaMD utilisant de l’IA ou du machine learning, en coordination avec les programmes de l’agence portant sur l’usage des données de vie réelle. Elle souhaite ainsi établir un cadre permettant aux fabricants de connaître les paramètres et mesures à réunir : quelles données sont pertinentes pour mesurer la performance ? à quel point faut-il les analyser ? à quelle fréquence les fournir ? comment les algorithmes peuvent-ils être validés et testés ? comment les retours des utilisateurs peuvent être intégrés à l’entraînement et l’évaluation de ces SaMD ?… 

La FDA anticipe une évolution continue de ce plan d’action.