Comment BNP Paribas accélère sur l’IA dans le retail : stratégie, déploiement et défis de l’industrialisation

BCEF, la banque commerciale en France de BNP Paribas, refuse de concevoir séparément les applications de l’IA générative (GenAI). Certes, l’effet ChatGPT de fin 2022 a propulsé la GenAI en tête des priorités et a suscité de nouvelles réflexions.

Pierre Ruhlmann, son chief operating officer, affirme cependant que l’entreprise a jugé préférable de ne pas aborder l’IA générative comme un domaine distinct, mais d’élaborer une stratégie globale autour de l’IA.

La livraison de produits IA embarquée dans le dispositif agile

“En matière d’IA, nous menions déjà des développements, pas nécessairement sur des technologies très avancées. D’autres pans de l’intelligence artificielle, plus mûrs et que nous n’avions pas suffisamment instruits, offraient du potentiel. Nous avons jugé utile de nous y intéresser plutôt que de nous focaliser sur l’IA générative”, résume-t-il.

En outre, la banque a décidé d’inscrire le développement de l’IA dans une approche agile en oeuvre depuis trois ans. Le COO rappelle à ce titre que plus de 2000 collaborateurs appliquent l’agile grâce à des tribus orientées produit, accompagnées par un centre d’expertise spécialisé sur l’IA.

L’enjeu, selon Pierre Ruhlmann, a donc consisté à intégrer l’IA dans cet existant. “Le risque, en positionnant l’IA en dehors, serait qu’elle n’alimente pas notre dispositif agile, qui commençait à prouver son efficacité et dont les avantages sont aujourd’hui évidents.”

Le dirigeant estime également que le rapprochement entre IA et agile a été critique face à l’explosion du nombre de cas d’usage et à la nécessité d’en objectiver la valeur. Or, dans sa mise en œuvre de l’agile, BCEF hiérarchise le backlog en fonction de la valeur.

L’analyse de la valeur a d’ailleurs été formalisée au sein de l’entreprise. La mesure repose sur trois paramètres principaux : la valeur financière (économies, génération de PNB…), la valeur client et collaborateur (NPS, engagement salarié, effort score, etc.) et enfin l’indicateur de digitalisation ou d’autonomie (self-carisation).

Le tamis de la valeur pour prioriser 12 produits d’IA

Les cas d’usage IA ont donc été “passés au tamis de ces indicateurs”, explique Pierre Ruhlmann. Un travail de sélection a ainsi été mené pour réduire à 12 le nombre de cas d’usage en intelligence artificielle. 

Le COO défend cette approche, qui vise une plus grande efficacité et une meilleure probabilité de succès pour les domaines identifiés comme prioritaires. Pour délivrer la valeur attendue, il restait à définir un mode de delivery adapté, toujours dans le cadre des mécanismes agiles en place.   

Dans l’approche agile au sein de BCEF, des tribus regroupent différents domaines, chacun étant associé à un ou plusieurs parcours client. La banque recense 150 parcours, répartis en différents domaines. “Pour créer de la valeur, nous avons défini que les domaines produit étaient responsables de la mise en œuvre. Ce sont eux qui estiment la valeur et la garantissent.“

Toutefois, pour piloter les produits jusqu’à leur mise en production, les domaines devaient acquérir de nouvelles compétences, notamment en data science. Pour répondre à cette problématique, BNP Paribas a opté pour un modèle évolutif, souligne le COO, consistant à créer un centre d’expertise en IA, baptisé centre d’excellence (CoE).

Le centre remplit trois missions principales : piloter la valeur et les risques avec une approche produit, accompagner l’adoption de l’IA et éclairer les domaines sur le potentiel de la technologie. “Le pilotage des risques de l’IA est une responsabilité transverse. Nous avons nommé un AI risk officer au sein du centre d’expertise, en lien avec le groupe”, décrit Pierre Ruhlmann.

L’AI risk officer est chargé de garantir la conformité avec la réglementation, notamment l’AI Act européen, et “de mieux intégrer l’utilisation de l’intelligence artificielle dans notre modèle de suivi du risque opérationnel.”

Un centre d’excellence couplé à une IA Factory à l’IT

Le CoE ne répond cependant que partiellement aux enjeux de déploiement des produits d’IA “en mode industriel.” Pour industrialiser l’IA et l’intégrer aux processus de la banque commerciale, le COO a soutenu la création d’une IA factory rattachée à l’IT, qui embarque les compétences en data science. Les data scientists, notamment, accompagnent les tribus dans leurs développements. “Le feedback est très positif” parmi les data scientists après 18 mois, assure-t-il, grâce à leur capacité à mettre en service les modèles produits.

“Un data scientist est heureux quand il construit ses modèles, mais il l’est encore plus lorsque ses modèles deviennent opérationnels”, déclare le responsable des opérations de BCEF. Selon lui, regrouper les compétences au sein de l’IT applicative facilite aussi la collaboration avec l’IT groupe, notamment sur l’infrastructure.

L’IA factory est encore en phase de montée en charge. Pour lui donner les ressources humaines nécessaires à son activité de déploiement, la banque a recruté et formé en interne des collaborateurs. Elle s’appuie également sur un “petit apport” de consultants externes.

Grâce à son dispositif agile, renforcé par un CoE et une IA factory, la banque de détail a mis en production ses premiers cas d’usage, ce qui a permis d’éprouver l’adéquation des mesures préparatoires.

“Maintenant que nous avons mis en place des modèles, nous devons progresser sur le back-testing”, c’est-à-dire le monitoring (technique et métier), qui permet notamment de détecter les dérives et d’identifier les besoins de réentraînement. 

La GenAI ne concentre pas le potentiel de valeur

Pour réussir dans l’IA, BCEF entend se doter des moyens nécessaires, notamment financiers. “En mélangeant technologie et fonctionnel, le levier IA représente un peu plus de 10 % de l’effort d’investissement global”, évalue pour mind Fintech le directeur des opérations de la banque commerciale en France de BNP Paribas.

Et quid de l’IA générative spécifiquement ? Elle représenterait “un petit quart” de ces investissements en IA. Chez certains assureurs et banquiers, la GenAI peut représenter 50 %, voire plus, des projets en cours. La banque doit “encore mûrir et continuer d’apprendre sur la bonne utilisation de l’intelligence artificielle générative. Lorsque nous serons parvenus à surmonter les challenges auxquels nous sommes confrontés aujourd’hui, très naturellement la proportion augmentera.”

BCEF affine son expertise, à l’image du reste du groupe BNP Paribas. Le chief data officer, Hugues Even, et le DSI, Bernard Gavgani, adoptent la même approche, que l’on peut qualifier de prudente ou modérée. “Il ne faut pas y voir une volonté de ne pas investir”, insiste le COO.

L’expérience acquise depuis 2023 par les entreprises, dont BNP Paribas, a révélé certaines difficultés propres à l’adoption de l’IA générative, en particulier lors du passage à l’échelle. Parmi ses 12 produits IA prioritaires, BCEF développe bien des outils GenAI.

L’IA générative : le premier obstacle n’est pas technologique

Parmi eux, un cas d’usage destiné aux collaborateurs. Dans le cadre de son précédent plan stratégique, la banque avait conçu un assistant permettant aux salariés d’effectuer des recherches dans un moteur connecté à des bases de connaissances. Chaque jour, 10 000 requêtes sont effectuées sur le service, accessible aux 20 000 collaborateurs.

BCEF intègre désormais de la GenAI à ce moteur, comme le fait également Société Générale au niveau du groupe (via la solution Sinequa), ou encore dans ses activités de retail et d’assurance avec LACI et Charly. Au Crédit Agricole, un produit comparable de RAG (Retrieval-augmented generation, une technique avancée d’intelligence artificielle qui combine la génération de texte par des modèles de langage avec la récupération d’informations pertinentes à partir de sources externes en temps réel, permettant ainsi de produire des réponses plus précises, contextuelles et à jour) est en production : CA Gen Search.

Pierre Ruhlmann reconnaît lui-même que l’usage de l’IA générative reste “classique”. Son apport consiste à produire des réponses en langage naturel. Transparent et lucide, le COO note que les performances sont bonnes, mais qu’elles pâtissent des faiblesses des bases de connaissances sous-jacentes.

Ces bases de connaissances, constituées au fil des années, peuvent notamment contenir des informations contradictoires ou obsolètes. Or, la qualité de l’information influe directement sur les résultats des modèles génératifs. Les expérimentations “mettent en évidence l’importance du knowledge management”, témoigne-t-il.

“Pour améliorer la pertinence, nous devons revoir complètement notre dispositif autour de la gestion de la connaissance”, poursuit Pierre Ruhlmann, pour qui cela passe par la création d’un socle commun d’informations et par le déploiement d’assistants IA adaptés à chaque profil utilisateur (service client, conseiller…). 

Plutôt que de généraliser l’intégration de l’IA dans le moteur augmenté, BCEF procède par itération en se concentrant sur certains domaines, en commençant par le crédit immobilier. Dans d’autres secteurs, dont l’énergie et les transports, cette approche est également privilégiée, ce qui permet, en parallèle du fine-tuning des LLM, d’améliorer la qualité des interactions. 

L’avenir hybride des chatbots client dans la banque en ligne

Toujours en IA générative, la banque de détail de BNP Paribas développe également un chatbot tourné vers les clients au sein de sa marque Hello Bank!. Dans ce domaine, la banque en ligne ne part pas de zéro. Elle dispose déjà d’un chatbot classique qui gère un quart des 200 000 interactions clients traitées chaque mois.

Cet assistant virtuel de première génération, comparable à Eliott chez BoursoBank, s’appelle HelloïZ. Dans le cadre d’un pilote, Hello Bank! développe un chatbot de deuxième génération reposant sur l’IA générative et un modèle Mistral AI.

Nom de code Genius. Bertrand Cizeau, directeur de la banque en ligne, l’appelle également HelloïZ 2 et en a fait une démonstration, le 4 mars à Paris, lors d’une conférence de presse. L’objectif de Genius est de répondre aux questions des clients en interrogeant la FAQ. À terme, l’ambition est de compléter le volet informatif avec des fonctionnalités transactionnelles. Aucune échéance n’a été annoncée pour l’instant. 

“La qualité de la réponse fournie dans le pilote est exceptionnelle”, juge le COO. Sur ce projet, “il y a peu de problèmes” liés à la base de connaissances, précise-t-il. Le projet met en revanche en lumière un autre sujet, encore peu abordé par les entreprises : la performance technique, particulièrement lors d’un déploiement à l’échelle.

Selon Pierre Ruhlmann, la performance technique est encore perfectible, avec des temps de réponse de 15 à 20 secondes. À titre de comparaison, un chatbot classique répond presque instantanément, bien qu’il présente des limites connues.

Genius, aka HelloïZ 2, ouvert à 1 million de clients en 2025

“La mise à l’échelle de l’IA générative, avec des niveaux de performance adéquats, est un challenge que nous éprouvons actuellement. Mais c’est une préoccupation collective et pas seulement pour BNP Paribas”, estime Pierre Ruhlmann.

Sur la sécurité et les hallucinations, Hello Bank! fait appel à la technologie de Giskard, start-up aussi présente chez BPCE et Crédit Agricole, entre autres. Depuis novembre 2024, Genius est testé auprès d’une centaine de clients ambassadeurs.

En avril, le bot sera ouvert à 10 000 clients collaborateurs du groupe BNP Paribas, “par sécurité”, avec des temps de réponse ramenés entre 3 et 8 secondes, annonce Bertrand Cizeau. Dans un second temps, par tranches de 200 000 clients tout au long de 2025, le chatbot sera déployé auprès du million de clients d’Hello Bank!.

L’avenir ne sera cependant pas entièrement génératif, souligne son directeur, notamment pour des raisons de coût. Interrogé par mind Fintech, le dirigeant reconnaît que le coût d’une requête générative est “beaucoup plus élevé” que celui d’un bot classique. Pour des raisons économiques et de performance, il sera donc nécessaire d’hybrider chatbot traditionnel et chatbot génératif, indique Bertrand Cizeau.

Mais, comme l’expliquait plus tôt le COO de BCEF, la GenAI ne constitue pas l’alpha et l’oméga de l’IA dans la banque. L’entreprise s’appuie d’ailleurs sur d’autres technologies et modèles pour optimiser un processus critique : l’octroi de crédit.

De 12 à 6 jours pour les dossiers de crédit en juin 2025

Dans ce secteur, la banque vise à réduire la durée de traitement des demandes de 12 à 6 jours en juin 2025. En janvier 2026, BNP Paribas ambitionne même d’atteindre un délai de 3 jours pour les dossiers les plus simples, soit 20 % des demandes.

Pour réduire les délais, la banque a développé en interne un outil d’analyse de documents destiné à l’octroi de crédit, un processus nécessitant de nombreuses pièces justificatives des clients. Grâce à plusieurs briques technologiques, dont la reconnaissance optique de caractères (OCR), un moteur de règles, une brique IA de modèle de langage (NLP) et des modèles de détection de fraude, les documents sont analysés, et les données extraites et contrôlées.

En production depuis novembre 2024, l’outil est directement intégré à l’application métier des conseillers pour la gestion des crédits. Il les alerte, pour quatre types de document : promesse de vente, avis d’imposition, bulletins de salaire et avis de taxe foncière, en cas d’erreur ou d’anomalie détectée par l’analyse automatique, limitant ainsi les échanges entre le front et le back-office de la banque.

La prise en charge d’autres documents dans un dossier de crédit interviendra en 2025. La banque doit d’abord entraîner de nouveaux modèles, spécifiques à chaque document. Il faut entre deux et trois mois pour cet apprentissage, indique Sébastien Perrigault, directeur du domaine financement des particuliers de la banque commerciale en France. Mais ces modèles peuvent également être utilisés pour d’autres parcours.

Depuis sa mise en production, l’IA a analysé plusieurs milliers de documents avec un taux de fiabilité de 85 %. BCEF doit encore progresser pour atteindre son objectif de 90 % de fiabilité de bout en bout. Sébastien Perrigault précise quant à lui, qu’au terme d’un an de développement 100 % en interne, 80 % des données des documents sont correctement lues par l’IA. Dans 60 % des cas, l’outil valide directement les éléments jugés conformes aux informations préalablement communiquées. Pierre Ruhlmann insiste enfin sur le rôle du produit d’IA en tant qu’assistant du collaborateur. Il ne se substitue pas à lui. Ainsi, le conseiller demeure responsable du contrôle et du processus de crédit. “Ce cas d’usage de l’IA est très emblématique et nous apporte de nombreuses perspectives”, conclut-il.