Avec ArIA, LCL met l’IA générative entre les mains de 12 000 conseillers

Dans le cadre d’une “stratégie d’adoption maîtrisée” de l’intelligence artificielle générative, le groupe Crédit Agricole favorise l’expérimentation au sein de ses différents métiers et filiales. Chez LCL, cette politique s’est traduite en mars 2024 par le déploiement en production et à l’échelle d’un premier cas d’usage de l’IAGen.

Pour concevoir son premier outil génératif à destination des 12 000 conseillers de son réseau, la banque s’est appuyée sur les compétences réunies par son pôle IA interne et par l’entité Crédit Agricole Group Infrastructure Platform (CA-GIP). Pour développer des solutions d’IA, LCL dispose d’une équipe d’une douzaine de personnes rattachée à Frédéric Didier, directeur numérique et organisation et membre du comité exécutif.

Les projets d’IA sous la supervision du comex

“Nous sommes directement en ligne avec le comex, ce qui nous permet de bénéficier d’une bonne visibilité auprès de ses membres. Je suis d’ailleurs régulièrement amené à lui présenter nos sujets IA”, souligne le responsable du département IA, Didier Lellouche.

Ce rattachement illustre l’importance accordée aujourd’hui par les directions aux enjeux liés à l’intelligence artificielle. “L’IA est supervisée directement par l’ensemble des représentants du comex”, confirme l’expert de LCL auprès de mind Fintech.

Et avec l’émergence fin 2022 de l’IA générative, la thématique et ses projets n’ont fait que gagner en importance auprès des instances de décision, en particulier dans les domaines de la banque et de l’assurance. Dans ce contexte, le pôle IA était donc très attendu sur sa stratégie en matière d’IAGen. Sur cette nouvelle technologie, c’est lui qui a été à l’initiative.

“Tout le monde a eu connaissance de ChatGPT. Néanmoins, il est complexe d’identifier les cas d’usage et de définir la manière d’appliquer cette technologie dans la banque, en conformité avec ses contraintes de sécurité et réglementaires”, explique Didier Lellouche.

Le service IA de LCL a donc arrêté un premier usage de l’IA générative, présenté ensuite au métier. Celui-ci porte sur l’assistance à la rédaction de courriels pour les conseillers.

Un pilote en septembre 2023 auprès de 800 conseillers

Le projet a été lancé après avoir estimé qu’un assistant de rédaction pourrait répondre à des besoins de formalisation pour les jeunes conseillers, souvent plus familiers des réseaux sociaux que de la messagerie classique. Aujourd’hui, l’adoption démontre que le besoin n’était pas générationnel puisque l’usage concerne tous les profils.

Avant de s’atteler aux développements purement techniques de l’outil de GenAI, baptisé ArIA (Assistant Rédactionnel avec Intelligence Artificielle), la banque a dû cocher préalablement différentes cases. Des exigences en termes de sécurité, de protection de la confidentialité des données et de risques devaient être satisfaites.

Ces points ont été traités en amont avec CA-GIP. Un travail préalable auprès des instances représentatives du personnel a également été mené. C’est seulement après ces validations que LCL a pu enclencher, en septembre 2023, la phase du pilote.

Pour cette étape, près de 800 conseillers ont été mobilisés. “Le pilote a été l’occasion de vérifier les hypothèses de départ et de nous assurer que les conseillers trouveraient un intérêt à l’outil et l’adopteraient”, indique Didier Lellouche. Le taux de satisfaction élevé (85 %) durant le pilote a confirmé la pertinence de la solution. Le prolongement de la durée du pilote a constitué un autre signal clair.  

“En principe, après 6 semaines, nous devions arrêter l’outil. Mais les conseillers ont réclamé que sa disponibilité soit maintenue. Nous leur avons donc laissé et commencé à préparer le déploiement à l’échelle”, achevé fin mars 2024.  

Au sein du groupe Crédit Agricole, ce sont d’autres applications de l’IA générative qui ont été privilégiées lors des expérimentations et des premiers passages en production, dont la recherche documentaire par exemple. L’expert de LCL justifie le choix du cas d’usage de la rédaction de mail par sa simplicité.

Un premier outil d’IAGen pour acculturer

“Nous travaillons aussi sur la recherche documentaire. Un produit d’IAGen dans ce domaine ne tardera d’ailleurs pas à sortir. Au niveau technologique, les développements sont toutefois beaucoup plus complexes. Se posent des questions sur la sécurité des données et le choix des LLM”, détaille-t-il.

La génération de messages électroniques est en comparaison plus accessible. Mais pour Didier Lellouche, ce cas d’usage spécifique était idéal pour fournir aux conseillers un outil leur permettant de s’acculturer à l’IA générative.

En effet, pour interagir avec ces IA et générer une réponse pertinente, la construction de la requête ou prompt est critique. Or, la pratique du prompt ne constitue pas aujourd’hui un standard, dans la banque comme dans les autres secteurs. Les collaborateurs, “biberonnés par Google”, sont au contraire familiers de l’usage des mots clés.

Une telle recherche ne fournit pas des résultats véritablement satisfaisants avec l’IA générative. La génération de mail (grâce aux données de contexte et à l’instruction du conseiller) fonctionne plus aisément sans devoir recourir à des prompts trop élaborés.

Tout en fournissant un résultat, le cas d’usage contribue donc à l’acculturation des utilisateurs sur l’importance des instructions en entrée. LCL et son pôle IA préparent ainsi le terrain à des applications plus avancées de l’IA générative, comme la recherche dans des bases de connaissances métiers.

Deux LLM pour prévenir la dépendance technologique

Concernant l’assistant à la génération d’email, celui-ci est directement intégré à la messagerie sécurisée de LCL – un outil édité par Worldline. Lors de la réponse à un message client, un  champ s’affiche dans la fenêtre permettant de saisir des instructions, le prompt. La solution d’IA génère en fonction une proposition de réponse, modifiable librement par le conseiller, “qui reste responsable du mail envoyé.”

“Cela aide considérablement le conseiller dans son travail quotidien”, note Didier Lellouche. Et la problématique de la messagerie n’est pas accessoire au niveau de LCL. Le responsable IA précise que 21 millions d’emails sont réceptionnés chaque année.

Et ce volume ne se réduit pas au fil du temps, bien au contraire. Au cours des deux dernières années, le nombre d’emails a augmenté d’environ 1 million par an. L’IA générative apporte donc également une réponse à cet enjeu. Pour rendre service aux conseillers, la solution embarquée dans la messagerie repose sur des briques Google et d’OpenAI (en instance privée sur le cloud Azure)

Pour ce cas d’usage, deux LLM du marché sont associés – et connectés par API. LCL réduit par ce biais les risques de dépendance technologique et son exposition à des hausses de prix telles que souvent pratiquées par les fournisseurs, explique Didier Lellouche.

Ces modèles pourront être modifiés à l’avenir en fonction des performances des solutions du marché (ou des tarifications appliquées). “Une couche d’abstraction nous permet de nous orienter vers le LLM de notre choix, quel qu’il soit. Il nous suffit de modifier un paramètre et la bascule peut s’effectuer en temps réel”, précise le spécialiste. 

Un outil d’IA utilisé par deux tiers des conseillers

En termes d’adoption, plusieurs motifs de satisfaction sont au rendez-vous. La banque indique ainsi que la solution générative, déployée auprès de tous les conseillers depuis le 26 mars 2024, est d’ores et déjà utilisée par les deux tiers de la population cible. Autre chiffre : un tiers des emails sont générés grâce à la fonction intégrée à la messagerie.

“Nous travaillons à présent à la conduite du changement et à l’amélioration de la connaissance des conseillers sur la meilleure façon d’utiliser les applications basées sur l’IA générative”, informe le responsable IA.

Le pilote avait mis en évidence deux causes principales d’insatisfaction : la mauvaise compréhension du fonctionnement de l’outil et l’absence d’interfaçage avec les bases de connaissances de la banque. Une requête liée à des données présentes dans ces bases ne génère donc pas de réponse satisfaisante. Ce second motif d’insatisfaction est temporaire.

L’interfaçage figure sur la feuille de route produit, tout comme l’ajout du “speech-to-text”, soit la possibilité de dicter vocalement son instruction. Le canal voix, qui sera la première évolution, pourrait permettre de résoudre les problèmes découlant des prompts à base de mots clés. “C’est pratiquement prêt”, annonce Didier Lellouche.

50 % des projets en IA portent sur l’IAGen

“Mais si techniquement, nous sommes prêts, nous ne voulons pas aller trop vite. Nous souhaitons d’abord que les conseillers s’acculturent aux principes de fonctionnement de l’IA générative. L’outil est fonctionnel et les conseillers, qui ont la connaissance, peuvent tout à fait mentionner l’information contenue dans les bases directement dans l’instruction”, souligne le responsable.  

Pour poursuivre l’acculturation et les usages de l’IA générative, LCL mène donc d’autres projets dans ce secteur, à commencer par la recherche documentaire. “Nous avons des bases de procédures assez fournies et y trouver une information précise n’est pas toujours simple”, reconnaît Didier Lellouche.

Et “d’autres cas d’usage sont aujourd’hui en développement ou en phase de réflexion”, avance le responsable. En termes de projets, l’IA générative occupe à présent presque 50 % des projets en intelligence artificielle menés chez LCL. Mais la GenAI se combine aussi à d’autres typologies d’IA.

“Aujourd’hui, nous intégrons de l’IA générative dans quasiment tous nos cas d’usage. Elle permet de gagner du temps, de gagner en précision ou de capter de l’information qui restait complexe à obtenir ou inaccessible avec de l’IA traditionnelle”, conclut Didier Lellouche.