Malakoff Humanis a co-construit un label d’IA responsable

Les sociétés Malakoff Humanis, Orange France, L’Oréal et BCG Gamma (entité du cabinet de conseil dédiée à l’intelligence artificielle aux sciences de données) ont annoncé le 17 novembre le lancement de leur initiative Positive AI. Prenant la forme d’une association présidée par Laetitia Orsini Sharps, également EVP consumer business chez Orange France, l’organisation revêt, selon la dirigeante, trois fonctions : “proposer des outils concrets tels qu’un label et un référentiel d’IA responsable, créer un espace d’échanges pour les entreprises et contribuer au débat public”. 

Le projet est effectivement directement lié à l’établissement du cadre européen concernant l’intelligence artificielle. De ce fait, les quatre acteurs espèrent accueillir en leurs rangs d’autres entreprises, “de toutes tailles et tous secteurs afin de créer une communauté d’experts, en France et en Europe”, déclare Laetitia Orsini Sharps. Selon une étude de BCG parue en septembre 2022, ce sont 84 % des entreprises, dans 96 pays, qui voient l’intelligence artificielle responsable comme un enjeu important, bien que seules “16 % d’entre elles aient un programme mature sur le sujet”, précise Laurent Acharian, responsable marketing monde chez BCG Gamma.

Un label qui évalue près d’une quarantaine de critères

La construction d’un label est ainsi la première étape initiée par les entreprises fondatrices. Ce sont d’ailleurs des data scientists de leurs équipes qui l’ont élaboré. “La labellisation a fait ses preuves dans le cadre de la responsabilité sociétale des entreprises mais également de la qualité de vie au travail. Elle est également recommandée dans le livre blanc sur l’intelligence artificielle de la Commission européenne”, assure la présidente de Positive AI. 

Le label s’appuiera sur deux piliers : “la gouvernance de l’entreprise et l’algorithme lui-même”, ajoute-t-elle. Pour le premier, “nous avons listé 20 points de contrôle en termes de conformité (RGPD), cycle de vie de l’algorithme, robustesse, analyse des résultats… Et pour les systèmes d’intelligence artificielle, nous en avons retenu 18 répartis en trois thématiques : les biais liées aux données et aux algorithmes, la transparence (et ses enjeux d’explicabilité et d’interprétabilité a minima) et la garantie humaine”, énumère David Giblas, directeur général délégué de Malakoff Humanis. Dans le cadre d’une IA responsable, il est effectivement attendu que l’humain supervise les algorithmes, estiment les partenaires, et qu’il soit apte à les corriger. Disponible en 2023, le label Positive AI sera attribué par le cabinet externe indépendant EY.

Malakoff Humanis, Orange et L’Oréal ont chacun déjà expérimenté le label et le référentiel sur leurs propres systèmes d’IA (lutte contre la fraude, recommandation de chaînes de sport et analyse de commentaires des consommateurs respectivement, par exemple). De manière générale, “les marges de progression résident dans la documentation des systèmes d’IA, la gestion du cycle de vie des algorithmes et leur explicabilité”, reconnaît David Gilbas.