Brigitte Séroussi (DNS) : “Notre mission consiste à mettre en place des garde-fous éthiques”

Quel est le rôle de la Cellule “Éthique du numérique en santé” ?

La Cellule éthique s’inscrit dans le cadre de la première Feuille de route du numérique en Santé de la DNS. Cette cellule se décline aujourd’hui en 11 groupes de travail (cf. encadré) autour de thématiques spécifiques. 

Notre mission consiste à mettre en place des garde-fous éthiques garantissant aux usagers du système de santé qu’il n’y aura aucune dégradation de la relation de soins et aucune dérogation au secret médical du fait du déploiement du numérique en santé. Les valeurs que nous défendons, dont certaines sont réglementaires et couvertes par le RGPD, intègrent notamment la confidentialité et l’intégrité des données de santé, la sécurité et la transparence de leurs traitements informatiques, le respect de l’information du patient, le développement de solutions visant à réduire les fractures numériques, mais également la sobriété numérique et la réduction de l’impact environnemental des systèmes d’information de santé dans un objectif d’engagement de l’ensemble des acteurs de l’écosystème pour le développement durable.

Quelles sont aujourd’hui les traductions concrètes de vos travaux dans le numérique en santé ?

Pour intégrer le catalogue de services de Mon espace santé, les éditeurs doivent satisfaire des critères de sécurité, d’interopérabilité et d’éthique. Ces critères ont fait l’objet d’un arrêté. Nous demandons aux éditeurs que la finalité première du traitement des données personnelles du patient soit distincte des finalités secondaires. Le RGPD impose déjà que les patients soient informés de la réutilisation de leurs données, mais pour l’éthique, l’information ne suffit pas. Il faut que l’information soit comprise et nous demandons aux éditeurs de prouver qu’ils se sont donné les moyens de cette bonne compréhension. Nous nous intéressons aussi à la qualité des contenus. Ils doivent être sourcés et accompagnés d’une politique de veille scientifique. Aussi, beaucoup de citoyens ne sont pas familiers avec ces outils. Pour certaines personnes, envoyer un mail est déjà un défi, donc ces services doivent offrir un moyen de téléphoner, voire disposer d’un guichet physique pour que l’utilisateur puisse poser des questions. C’est la notion de numérique inclusif. Enfin, tout un domaine de l’éthique concerne le développement durable et l’écoresponsabilité. Nous avons proposé des critères visant à ce que les éditeurs prennent conscience que le numérique en général et le numérique en santé en particulier ont un impact environnemental. Ces éditeurs doivent nous convaincre que leurs équipes de développeurs ont été formées à l’écoconception, que l’éventuel hébergeur affiche de bonnes performances énergétiques. C’est tout l’enjeu de l’Écoscore que nous avons développé (cf. encadré).

Vous avez publié en avril 2022 des recommandations de bonnes pratiques pour intégrer l’éthique dès le développement des solutions d’IA en santé. Comment cette “éthique by design” se traduit-elle ?

Nos recommandations sont ordonnées chronologiquement, par rapport aux étapes de construction d’un algorithme d’IA : le cadrage de la finalité de la solution d’IA, la collecte des données qui vont servir à l’apprentissage, la mise en œuvre de la méthode avec la sélection des données et l’évaluation de l’algorithme et enfin les préparations pour la mise sur le marché. L’idée de ce travail était de mettre en avant les points de faiblesse potentiels, notamment le fait de travailler sur des données qui ne sont pas anonymisées et pour lesquelles il n’y a pas eu de consentement préalable des patients à la ré-utilisation de leurs données.

La sélection des données doit aussi permettre de supprimer les éventuels déséquilibres afin que l’apprentissage de l’algorithme soit de bonne qualité. Il s’agit également de s’assurer que la population d’apprentissage est représentative de la population sur laquelle on va utiliser la solution. 

Vous venez de publier avec la DGOS une “grille de réflexion éthique pour l’analyse des situations complexes en télésanté”. Quelles situations vous ont poussé à créer ce guide ?

Ce guide est à destination des professionnels qui pratiquent des actes de télésanté. Pour le créer, nous avons adopté une approche systémique, pas uniquement centrée sur les systèmes d’information. Des philosophes, des sociologues et des éthiciens ont participé au groupe de travail. L’éthique de la télésanté appliquée à la téléconsultation consiste à s’assurer qu’il y a bien eu le recueil du consentement du patient et au-delà, à savoir si le patient est à l’aise avec ce principe de parler à son praticien au travers d’un écran. Nous voulions aussi nous assurer que la téléconsultation soit bien confidentielle, compte tenu des conditions d’environnement dans lesquelles se trouve le patient. 

Les cabines de téléconsultation dans les centres commerciaux constituent un exemple de situation complexe puisqu’il existe une tension entre d’un côté une mission de santé publique (la prévention pour le public le plus large possible) et de l’autre une forme de marchandisation de la santé. Autre situation complexe : une patiente qui ne souhaitait pas avoir d’examen clinique chez le gynécologue est passée par une série de téléconsultations avec une sage-femme…Combien de téléconsultations cette dernière peut-elle accepter, en sachant  que sa patiente ne peut pas rester un certain nombre de mois sans avoir d’examen clinique ? Nous travaillons actuellement sur un référentiel qui a vocation à être opposable aux sociétés de téléconsultation. Il comportera des chapitres sécurité, interopérabilité et un chapitre éthique. Aussi, comme pour le référencement dans le catalogue de services de Mon espace santé, ce référentiel intégrera le calcul d’un écoscore.

Comment s’articule votre travail avec celui du Comité consultatif national d’éthique (CCNE) et le Comité national pilote de l’éthique du numérique (CNPEN) ?

Avant la période Covid, au moment du lancement des services du numérique en santé aux citoyens, le CCNE existait. Le CCNE travaille sur saisine et plutôt sur l’éthique clinique, médicale. Comme beaucoup de SI ont été créés pendant la crise Covid, le CNPEN a vu le jour. Il fonctionne lui aussi sur saisine et fournit une synthèse des réflexions du comité sur un sujet précis. Leurs travaux sont très intéressants, très bien documentés, ils provoquent un questionnement éthique allant même jusqu’à parfois, générer de nouvelles interrogations. Notre façon de faire est plus pragmatique et opérationnelle. Elle s’inscrit également dans une temporalité accélérée. Nous nous adressons essentiellement aux éditeurs et les critères éthiques leur sont à présent opposables, grâce à une nouvelle loi issue de la loi de financement de 2023. 

Vous travaillez également sur un futur code de e-déontologie médicale. Quel est son principe ?

Nous avons encore beaucoup d’étapes à franchir avant de publier ce code. Son principe consiste à ajouter de nouveaux articles au code de déontologie médicale afin de caractériser la déontologie de l’exercice médical intégrant le numérique. Le Cnom (Conseil national de l’Ordre des médecins) avait proposé il y a plusieurs mois de faire évoluer le code de déontologie médicale avec un article unique. Pour la DNS, cela n’était pas suffisant car cela ne permettait pas de traiter assez précisément les sujets comme le devoir d’information au patient, la garantie humaine faire un renvoi/lien vers les travaux sur la garantie humaine ? de l’IA, etc. Nous sommes en train de finaliser une proposition de nouveaux articles. Cette proposition devra être validée par la DGOS et le Cnom. C’est la DGOS  qui, in fine, rédigera le décret d’évolution du code de déontologie médicale pour inclure des articles sur le numérique.

Quel regard portez-vous sur l’essor des IA génératives et sur les questions éthiques que cela pose ?

Le groupe de travail qui a proposé les recommandations d’éthique by design dans les solutions d’IA, a finalisé un ensemble de critères qui pourraient être la base d’un référentiel de l’éthique de l’IA. Ces critères vont permettre de vérifier si les piliers de l’éthique clinique (les notions de bienfaisance/malfaisance, d’équité/justice et d’autonomie) et du développement durable sont respectés par les solutions d’IA en santé. Beaucoup de ces critères concernent l’IA conventionnelle et nous nous demandons actuellement s’il est pertinent d’intégrer des critères spécifiques à l’IA générative dans le futur référentiel. Selon moi, le principal problème posé concerne la justesse, la validité des informations fournies par ces IA. Il nous faudra peut-être demander, comme éléments de preuve, des études fondées sur un échantillon représentatif d’utilisateurs de l’IA générative, afin que les allégations soient vérifiées. Des consensus avaient été obtenus sur le contenu du Règlement sur l’IA avant l’été et nous devons étudier quels sont parmi nos critères ceux qui sont déjà couverts par le futur règlement européen. Mais la période de négociation du contenu entre la Commission, le Parlement et le Conseil (les trilogues) est en cours et le texte pourrait encore évoluer.

Quels sont vos chantiers prioritaires pour cette rentrée ?

Nous finalisons les critères éthiques pour les solutions de téléconsultation, qui doivent être publiés en octobre (arrêté). Plus largement, nous travaillons sur le CENS (Cadre de l’éthique du numérique en santé) avec une approche comparable à celle mise en oeuvre pour élaborer le référentiel de sécurité (PGSSI-S) et le cadre d’intéropérabilité (CIS-IS). Nous avons observé que les éditeurs d’applications de santé et de solutions de téléconsultation que nous accompagnons ont appris à connaître le RGPD, mais ils ne sont pas encore familiers avec les exigences éthiques. Notre objectif est de rassembler, dans un seul espace de publication du site de l’ANS, tous les référentiels sectoriels que nous avons formulés, ainsi que nos recommandations. Cet espace doit voir le jour avant la fin de l’année. Par ailleurs, un projet avec l’ANS nous tient très à cœur : celui d’une plateforme d’éthico-vigilance qui permettrait à tous les utilisateurs des services et outils numériques en santé de nous faire remonter leurs questionnements éthiques.

Évolutions et avenir de l’écoscore

La DNS travaille en collaboration avec l’ANS sur l’ensemble des problématiques éthiques, et notamment avec Nathalie Baudiniere, responsable de projets en charge des sujets ayant trait à la responsabilité environnementale. Depuis l’automne 2022, 23 applications web et mobiles ont été référencées sur Mon Espace Santé. Pour parvenir à ce référencement, ces solutions ont dû calculer leur écoscore, un indice de sobriété environnementale calculé à partir de trois mesures (énergie consommée, performance de l’application et des services, données échangées) prises tout au long d’un parcours d’utilisation et comparées à des seuils. Depuis le lancement du service écoscore mi- 2022, 51 applications ont calculé leur écoscore.

“L’écoscore va faire l’objet d’évolutions sur lesquelles nous travaillons aujourd’hui pour qu’il puisse s’appliquer à d’autres domaines que les applications web et mobile dans le cadre du référencement dans Mon espace santé”, révèle Nathalie Baudinière. “Il a notamment vocation à entrer dans d’autres réglementations,  notamment dans le cadre de l’agrément  des solutions de téléconsultation”, poursuit-elle. L’ANS travaille également sur un écoscore dédié aux systèmes d’information hospitaliers. L’objectif est ici de calculer sur un an l’impact du numérique dans un établissement de santé ou médico-social. Cet écoscore entrera en phase d’expérimentation dans le cadre de MathuriN’H. 

À noter que le très attendu référentiel MaturiN’H, qui vise à mesurer la maturité des systèmes d’information des établissements de santé, fait déjà, avant même la sortie du texte officiel, l’objet d’une expérimentation autour des critères éthiques (une vingtaine d’établissements de santé se sont portés volontaires avant l’été). “Ici, l’objectif premier, explique Brigitte Séroussi, n’est pas encore de connaître l’impact environnemental de ces établissements, mais plutôt d’avoir un retour sur leur compréhension des questions posées et sur des critères éthiques que nous aurions pu oublier”. Les résultats de cette expérimentation sont attendus pour la fin de l’année 2023.