L’Afnor finalise sa Spec sur la garantie humaine des systèmes d’IA

En France, le projet Ethik-IA, porté par David Gruson, accompagne depuis plusieurs années les acteurs de la santé dans la régulation de l’IA, autour d’une méthodologie de garantie humaine. Ce travail se poursuit aujourd’hui avec l’Afnor, qui publiera prochainement une Spec intitulée “Garantie Humaine des systèmes fondés sur l’IA en santé”. Ce projet de document de référence sur la garantie humaine a été corédigé avec une quinzaine d’acteurs, dont l’UFSBD (Union Française pour la Santé Bucco-Dentaire), qui a très tôt adopté la méthodologie d’Ethik IA, le Leem et le Snitem.

La marche avant la norme

La Spec n’est pas à proprement parler une norme. “Comme nous sommes sur une innovation de rupture, nous ne voulions pas nous diriger d’emblée vers une norme, qui a vocation à être plus pérenne qu’une Spec. Une Spec étant moins exigeante, sa livraison se fait dans un processus de temps plus court” a expliqué Kunal Lollchand, responsable Développement et Innovation Santé et Action Sociale au sein de l’Afnor, à mind Health. Il précise que “ la V1 de cette Spec a vocation à évoluer en norme européenne”. 

Le document entend contribuer à l’harmonisation des normes. Ainsi, il s’appuie sur les textes français et européen de référence, à savoir l’article 17 de la loi de bioéthique et la future réglementation européenne sur l’IA, où un chapitre est pleinement consacré à la surveillance humaine.

Considérations éthiques

Le principe de garantie humaine assure le développement éthique des IA concourant à la santé, en établissant des points de supervision humaine. Ethik IA a créé des méthodologies de supervision humaine, qui se composent d’un volet formation et conseil à l’issue d’un audit initial, ainsi que de la mise en place de collèges de garantie humaine pour analyser régulièrement le fonctionnement des solutions d’IA. “Le règlement fixe les objectifs et les seuils, mais ne vous dit pas comment les atteindre. Une Spec donne des recommandations pour y arriver” souligne Kunal Lollchand. Cette documentation va en outre apporter des définitions claires aux terminologies employées autour des systèmes d’IA.

Ce document payant sera mis en ligne “avant la fin du mois de février”, nous précise-t-on à l’Afnor. La spécificité de la garantie humaine est de “se concentrer davantage sur la dimension patient, sans interférer avec les normes horizontales trans sectorielles” précise Kunal Lollchand.

La santé numérique fait partie des grands axes de travail sur lesquels se penche l’Afnor, aux côtés de la transition écologique (notamment l’impact environnemental et social des dispositifs médicaux) et de la prévention.