L’ACPR se penche sur la gouvernance des algorithmes d’IA

L’Autorité de contrôle prudentiel et de résolution (ACPR) a publié le 11 juin un document de réflexion sur la gouvernance des algorithmes d’intelligence artificielle dans le secteur financier. Rédigé par Laurent Dupont, Olivier Fliche et Su Yang du pôle fintech-innovation de l’ACPR, il souligne l’importance de veiller à l’évaluation des algorithmes et outils d’IA en tenant compte de 4 critères : le traitement adéquat des données, la performance, la stabilité et l’explicabilité. Le document recommande aussi de se pencher sur la gouvernance en portant attention à différents enjeux : intégration dans les processus métiers, interactions entre humains et algorithmes, sécurité et externalisation, processus de validation initiale et continue, et audit (avec un volet analytique et un autre empirique). 

À noter : l’assureur CNP Assurances a présenté le 11 juin une démarche autour de l’éthique de l’intelligence artificielle, qui recouvre les notions de gouvernance et d’évaluation des algorithmes, ainsi que d’explicabilité des décisions. Son responsable, Xavier Vamparys, a accordé un entretien exclusif à mind Fintech.