L’IA confronte les acteurs du dispositif médical à de nouveaux défis

“Une grosse partie des assets d’une société est aujourd’hui composée de ses algorithmes”, fait d’emblée remarquer Bruno Virieux, CEO de Predisurge, qui développe des solutions logicielles d’aide à la décision pour les interventions cardiovasculaires. Aussi, invite-t-il tous les éditeurs de ces solutions à apporter un soin particulier aux données de santé qui ont permis de les construire pour éviter que certains biais “contaminent” les précieuses formules mathématiques, qui constituent désormais la principale richesse d’une société. “Souvent, constate-t-il, il y a la volonté d’aller vite et l’on accuse les contraintes réglementaires européennes de freiner la mise sur le marché”. La rigueur du Vieux Continent est pourtant, selon lui, une chance à saisir. “Le niveau de la mer va monter, et nous avons un énorme avantage : c’est chez nous que la mer est montée en premier”, métaphorise-t-il, rappelant que “l’ensemble des réglementations sur les données sont en train de se calquer sur le modèle RGPD”. 

Pour tirer parti de cette chance, encore faut-il que l’écosystème français et européen s’empare pleinement de ces réglementations et Thomas Roche, avocat associé au pôle Santé Numérique & Sciences du Vivant de Life Avocats, rappelle l’importance de construire sa base de données en conformité avec ces dernières, puis de la protéger au titre de la propriété intellectuelle. “Sans cette conformité et cette protection, la base de données n’existe juridiquement pas, elle n’a strictement aucune valeur”, met-il en garde.

“Dans le cadre d’acquisitions ou de prises de participation, poursuit Thomas Roche, nous gérons très régulièrement des due diligence. Notre rôle est notamment de regarder si les données ont été collectées et obtenues conformément à la réglementation. Chaque entreprise doit être en capacité de démontrer les conditions d’acquisition de ses données. Nous allons la challenger sur ce point, car c’est l’une des conditions de la valeur d’une société.”

Mais, comme le soutient Bertrand De Haut De Sigy, avocat spécialisé en droit de la santé associé au cabinet UGGC, “la problématique de l’IA est plus vaste que cette simple question de la donnée, elle pose aussi la question de la responsabilité”. 

La responsabilité médicale : à qui la faute ?

L’histoire s’est passée hors champ médical mais reste édifiante : ”Un de mes confrères avocats, raconte Me Bertrand De Haut De Sigy, s’est fait attraper puisque les conclusions qu’il avait présentées devant le tribunal avaient été écrites avec ChatGPT. Il ne s’est pas aperçu que l’intelligence artificielle s’était trompée dans son recensement de la jurisprudence, elle avait même créé une fausse référence de jurisprudence. La faute est ici humaine puisque l’IA n’est qu’une aide à la décision, un outil. De la même manière, ce n’est pas l’IA qui doit rendre le service pour lequel on va voir un médecin.”

Du côté des assureurs des médecins, l’inquiétude grandit. Philippe Auzimour, directeur général du Cabinet Branchet, se prépare à ce que les patients interrogent leur médecin sur la présence ou non de l’IA dans les traitements et diagnostics qui leur sont proposés. “La perte de chance est un des principaux risques liés à l’utilisation de l’IA : les patients pourront faire valoir l’existence d’un préjudice pour le non recours ou le recours à l’IA en cas de diagnostic tardif ou erroné”. Sa crainte est que les gros industriels comme les plus petites start-up transfèrent leur responsabilité sur le praticien. “À ce jour, ils prennent des couvertures d’assurances inadaptées, comme des responsabilités civiles produits ou des responsabilités civiles équivalentes à celles d’un éditeur de logiciel classique”, constate-t-il. 

Évaluer ce qui évolue

Pour Frédéric Le Guillou, pneumologue et président élect de la Société Française de Santé Digitale, cette implication du professionnel de santé dans la chaîne de responsabilité est naturelle, car “que l’on ait un algorithme, un objet connecté ou de l’IA, la première responsabilité est celle du fait des choses”. Cependant, un problème se pose, selon lui : “à partir du moment où l’on a une intelligence artificielle qui a été conçue avec une version alpha autoapprenante mais qui va évoluer, est-ce que, à terme, le producteur de la solution d’intelligence artificielle pourrait se désengager de sa responsabilité indemnitaire du fait de l’évolution du dispositif ?”. 

“L’idée de responsabilité des produits défectueux est fondée sur l’idée d’une responsabilité automatique. L’IA, avec des évolutions autogénérées, dédouane finalement les producteurs de ces solutions de leur responsabilité” analyse Me Bertrand De Haut De Sigy, qui rappelle que la Commission européenne est venue apporter une exception à cette exonération : “à partir du moment où l’on ne peut plus identifier qui est responsable du développement, on retombe dans la présomption initiale : le producteur sera toujours responsable”.

Tanel Petelot, CEO d’Emobot, qui développe une solution qui capte le signal de l’humeur, tient à ce propos à dédramatiser ces enjeux, en dénonçant au passage la mystification qui entoure l’IA. “De manière générale, il existe très peu d’IA autoapprenante, car le niveau de ressources à mobiliser serait inimaginable. Aujourd’hui, une IA répond à un processus pour lequel elle a été entraînée et qui n’est que le résultat du choix de l’algorithme et du choix des données. Dans le nouveau règlement européen sur les dispositifs médicaux, les IA sont d’ailleurs fixées, ce sont simplement des algorithmes”, rappelle-t-il. 

In fine, le principe qui prévaut, dans le droit français (les lois de bioéthique de 2021), dans le règlement européen comme à l’OMS est la notion de supervision et de garantie humaine (portée par David Gruson et son initiative Ethik-IA). L’éthique a ses conséquences juridiques : c’est parce que chaque solution d’IA doit être pensée comme un outil utilisé sous la supervision humaine, que la responsabilité sera toujours humaine. A ce titre, le professionnel de santé qui l’utilise ne peut pas se dédouaner et prétendre avoir agi sous son influence : c’est bien lui, en tant qu’expert médical, qui signe le compte-rendu de diagnostic ou l’ordonnance.

Quelles bonnes pratiques ?

Plus que l’IA en elle-même, c’est aujourd’hui la question du recours ou non à l’IA qui inquiète les assureurs.

“Nous demandons aux sociétés savantes de faire des référentiels afin que nos médecins assurés sachent dans quel cas, ils peuvent faire confiance à l’IA, affirme Philippe Auzimour. Car, quand un médecin est mis en cause et se présente devant un expert judiciaire, la première chose que ce dernier regarde est le respect ou non des recommandations de sa société savante”. “Mais les sociétés savantes sont elles-mêmes dépassées par l’intelligence artificielle”, lui répond le Dr Jean-Claude Couffinhal, Responsable Innovation, Robotique & Formation de l’Académie Nationale de Chirurgie. Cette dernière mène actuellement un travail pour intégrer l’IA dans ses recommandations mais à charge surtout, pour le fabricant, d’expliquer, preuves cliniques à l’appui, ce que fait et ne fait pas sa solution, estime le Dr Couffinhal. 

La responsabilisation des professionnels de santé passe également par la formation. “Les grands acteurs forment les médecins mais qu’en est-il des start-up qui ne sont pas encore structurées et sont en phase de levée de fonds ?” s’interroge Philippe Auzimour. “Les  médecins doivent savoir quelles données ils utilisent pour voir s’il n’existe pas un biais. Ensuite, vient le point contractuel. Je pense que les cabinets de radiologie, en premier lieu, puis les hôpitaux ou les cliniques qui ont des urgences, doivent lire attentivement les contrats des éditeurs ou des start-up et s’intéresser à la couverture d’assurance dont ils disposent. Il est très imprudent d’utiliser un logiciel d’IA avec un éditeur, un prestataire qui est mal assuré”, prévient-il. 

L’émergence des solutions d’IA pousse déjà les assureurs à chercher une expertise auprès de “spécialistes de l’intelligence artificielle qui seront des avocats ou des médecins spécialisés formés par les éditeurs qui, eux, comprendront la donnée et l’algorithme”, analyse Philippe Auzimour, qui pousse aussi l’idée d’un consentement électronique du patient qui soit lié à l’utilisation de l’intelligence artificielle, en radiologie notamment. Rappelons qu’en France, ce consentement n’est pas nécessaire. Conformément aux lois de bioéthique de 2021, une simple information du patient suffit au médecin pour utiliser l’IA comme outil d’aide au diagnostic.

Quid des futures réglementations ?

“Très peu de dispositifs médicaux utilisant de l’IA sont à ce jour passés sous les fourches caudines du MDR”, fait remarquer Mathieu Leclerc-Chalvet, directeur général de Therapixel. Ce dernier ne se dit cependant pas inquiet par les éventuelles nouvelles contraintes que pourrait faire peser le nouveau règlement sur les DM (son logiciel d’aide à la décision MammoScreen a reçu le marquage CE, mais sous les anciennes directives). “Nous concernant, fait-il remarquer, les exigences de la FDA sont beaucoup plus élevées en termes de preuve clinique”. 

De la même manière, l’IA Act (qui, selon la vice-présidente de la Commission européenne, en charge de la transition numérique et de la concurrence, Margrethe Vestager, devrait être “adopté d’ici à la fin de l’année”) ne devrait pas, selon lui, affoler les acteurs du secteur du dispositif médical. “Au regard des ébauches de règlement que j’ai pu consulter, le niveau de preuve exigé ne devrait pas être très supérieur à celui du RGPD, le label HDS ou de la certification ISO 27001”, estime-t-il. C’est un règlement qui veut s’appliquer à toutes les IA, et le secteur du dispositif médical est déjà très réglementé. Je vois mal comment on pourrait nous demander plus que ce que nous faisons déjà”, conclut-il.