Banques et GenAI : du foisonnement d’idées à la recherche de valeur

Le parcours des banques dans l’intelligence artificielle générative confirme à la fois les enseignements d’une récente étude du MIT, qui révèle que 95 % des applications métiers d’IA échouent, et la pertinence des bonnes pratiques mises en œuvre dans ces projets.

Pour réussir, les entreprises doivent privilégier une approche “bottom-up” : “permettre aux employés d’expérimenter et de découvrir leur mode optimal de collaboration homme-IA.” Concrètement, cette démarche constitue une rupture par rapport aux initiatives antérieures.

Les premières initiatives reposaient sur une approche “top-down”, qui consistait à imposer à tous les employés l’utilisation d’un outil spécifique, sous le contrôle strict des dirigeants et des superviseurs. Dans un rapport, LaborIA a déjà montré les limites de cette méthode.

Pour expliquer les échecs des projets d’IA, les chercheurs du MIT soulignent également une hiérarchisation défaillante des priorités dans l’application de l’IA générative. Après une phase initiale centrée sur la course aux cas d’usage, banquiers et assureurs ont rectifié le tir.

Chez BNP Paribas, “être très focalisé pour ne pas se disperser”

Selon Sophie Heller, chief operating officer du pôle commercial, personal banking & services (CPBS) chez BNP Paribas, le cap est clair : “être très focalisé pour ne pas se disperser.” Sur le marché du retail, la banque avance ainsi sur un nombre restreint de cas d’usage ou de produits d’IA.

L’établissement donne par ailleurs la priorité aux assistants virtuels et aux agents conversationnels. BNP Paribas n’entend pas pour autant concentrer ses efforts uniquement sur la GenAI. “Nous pensons qu’il y a encore beaucoup de valeur à retirer, pour nos clients comme pour nous-mêmes, des optimisations des processus avec de l’IA”, souligne Sophie Heller.

Dans cette perspective, l’IA générative constitue un complément en “ouvrant un éventail de possibilités considérable.” C’est également la stratégie défendue pour la banque commerciale en France (BCEF) par son directeur des opérations, Pierre Ruhlmann.

Les cas d’usage de l’IA ont été réduits à douze priorités, afin de renforcer l’efficacité et d’accroître la probabilité de succès dans les domaines identifiés comme stratégiques. L’analyse de la valeur y occupe une place centrale.

La sélection repose sur trois critères principaux : la valeur financière (économies, génération de PNB…), la valeur pour les clients et les collaborateurs (NPS, engagement salarié, effort score, etc.), et enfin le degré de digitalisation ou “self-carisation”.

Sur le plan méthodologique, la banque de détail s’appuie, pour ses projets d’IA, sur les domaines produit existants, responsables de leur mise en œuvre. “Ce sont eux qui tamponnent la valeur”, précise le COO. En parallèle, un centre d’expertise en IA (CoE) a été créé.

Ce centre assume trois missions principales : organiser et administrer les comités de valeur, diffuser la culture de l’IA et gérer le risque. “Il s’agit d’une responsabilité transverse. Nous avons nommé un AI risk officer au sein du centre d’expertise, en lien avec le groupe”, décrit Pierre Ruhlmann.

Le CoE ne couvre toutefois qu’une partie des enjeux liés à la mise en production de solutions d’IA “en mode industriel”. Pour répondre à cet impératif, le COO a soutenu la création d’une IA factory, embarquant les compétences en data science et intégrée à l’IT.

BCEF donne la priorité à l’octroi de crédit

En mars 2025, BNP Paribas et certaines de ses filiales ont présenté plusieurs projets d’IA en production ou en phase pilote. L’initiative phare de BCEF concerne l’octroi de crédits, qu’il s’agisse de prêts immobiliers ou à la consommation.

Dans ce domaine, la banque ne mise pas sur l’IA générative, mais sur des technologies plus matures et éprouvées. BNP Paribas a injecté l’IA dans le parcours client avec l’objectif de réduire, dès juin 2025, le délai de souscription d’un crédit de douze à six jours.

A partir de janvier 2026, les dossiers “les plus simples”, représentant 20 % du volume total, devront être traités en trois jours seulement. Afin de tenir cette échéance, BCEF a développé intégralement en interne un produit d’IA – composé de plusieurs briques et modèles – destiné à automatiser la gestion de “l’enfer documentaire” lié à la constitution d’un dossier de crédit.

La démarche engagée au sein de BPCE présente un certain nombre de similitudes. Pour son chief data & AI officer, Luc Barnaud, il est essentiel de “ne pas courir tous les lièvres à la fois”, et donc de rester sélectif dans l’adoption de la GenAI.

“Nous voulons cadencer cette transformation avec des priorités ordonnancées”, explique-t-il. BPCE “prépare le chemin” par la formation et par l’intégration de l’IA dans “les outils du quotidien”, qu’ils soient acquis ou développés en interne.

Deux indicateurs clés chez BPCE : l’adoption et la satisfaction

Pour évaluer les progrès dans “ce nouvel environnement de travail”, deux indicateurs clés de performance (KPI) se dégagent : l’adoption et la satisfaction. D’ici 2026, BPCE prévoit dans son plan stratégique qu’au moins la moitié de ses collaborateurs utiliseront l’IA générative.

Parallèlement, l’entreprise a défini des actions “inscrites dans un temps long”, portant sur l’optimisation des processus métiers. Ces derniers, améliorés grâce à l’IA – “combinée à la GenAI, au digital et à la donnée de qualité, etc.” -, pourraient, à terme, transformer des pans entiers de l’activité du groupe.

“Il n’est pas possible de tout attaquer de front (…) Nous avons donc sélectionné cinq sujets, assez vastes cependant”, souligne Luc Barnaud. L’IA générative n’est d’ailleurs pas la seule technologie mobilisée au sein de la boîte à outils du groupe bancaire.

Les cinq axes retenus dans le plan stratégique, formalisé en juin 2024, sont les suivants : l’IA appliquée au cycle de vente et à l’accompagnement des conseillers ; l’IA pour enrichir l’expérience digital des clients ; l’IA pour lutter contre la fraude ; l’IA dans les centres de relation client ; et l’IA au service des métiers de l’informatique.

L’intelligence collective par les communautés data & IA de BPCE

En matière de GenAI, il est souvent tentant de réduire les enjeux à des dimensions technologiques. Pourtant, le passage à l’échelle dépend aussi d’autres facteurs, notamment au sein du groupe BPCE. Son organisation complexe et fédérée regroupe de nombreuses entités, a rappelé, le 2 octobre, lors du salon Big Data Paris 2025, Florian Caringi, manager data AI platform & architecture.

La diffusion des connaissances et des bonnes pratiques data – et désormais GenAI – représente un défi d’ampleur. Pour y répondre, le groupe BPCE mise sur une approche communautaire, favorisant l’intelligence collective. Cette démarche permet de surmonter la fragmentation des technologies et des organisations, souligne Florian Caringi.

Cette approche a émergé avec la mise en place des premières plateformes big data transverses. Pour éviter une gouvernance trop rigide, une big data community a été créée en 2017. Le modèle repose sur la participation communautaire : chaque entité contribue à hauteur d’une même quote-part et dispose du même droit de parole.

Les réunions hebdomadaires, initialement physiques, ont permis de “créer un collectif” rassemblant des profils variés, de l’infrastructure aux data scientists. Aujourd’hui, cette communauté s’anime principalement via des canaux Teams, jugés plus efficaces que les réseaux sociaux d’entreprise pour mobiliser les quelque 600 membres concernés.

Ce modèle a été reproduit pour d’autres technologies. Des communautés similaires ont vu le jour autour de GCP (Google Cloud Platform), afin de partager les bonnes pratiques d’architecture et les nouveautés, ou encore autour de Power BI. Ces groupes fonctionnent car ils se structurent autour d’une technologie commune, même si les implémentations diffèrent d’une entité à l’autre.

En parallèle, BPCE encourage la participation à des communautés externes comme la Google Cloud Customer Community ou le consortium open source TOSIT, “pour se challenger et s’ouvrir à d’autres pratiques”. Cette stratégie, combinant communautés internes et externes, facilite la circulation de l’information et accélère la montée en compétences de l’ensemble de l’écosystème data du groupe.

Mutualiser pour accélérer et superviser le run au LCL

Au sein du LCL, entité du groupe Crédit Agricole, l’IA s’inscrit dans un vaste programme de transformation visant à repenser le modèle bancaire d’ici à 2030. “Il n’y a plus un seul projet dans lequel nous n’ayons pas, au minimum, envisagé d’intégrer de l’IA”, souligne l’établissement.

Le département IA, dirigé par Didier Lellouche, concentre ses priorités sur le traitement de la donnée non structurée (images, justificatifs, voix, texte). “En IA générative, nous disposons de cas d’usage déjà passés à l’échelle”, dont ArIA, un assistant de messagerie utilisé par 12 000 conseillers bancaires.

“Nous essayons de penser les cas d’usage dans une logique de mutualisation et de réutilisation”, avance Didier Lellouche. Cette réutilisation, LCL la met déjà en pratique au niveau du RAG. “Nous réfléchissons à la manière de rendre les RAG génériques, pour des raisons budgétaires mais aussi pour gagner en rapidité”, témoigne le responsable IA de LCL.

Les RAG ne sont toutefois pas le seul domaine d’attention. La banque accompagne également ses conseillers dans la rédaction des comptes rendus de rendez-vous clients. Depuis juin, un outil est entré en production : il permet aux collaborateurs de dicter le compte rendu, puis de générer automatiquement un document dans un format standardisé.

“Nous l’avons prévu d’emblée pour qu’il soit réutilisable dans de nombreux cas de figure”, grâce à des modules de speech-to-text. L’industrialisation des modèles exige également un suivi rigoureux : le build n’est qu’une des facettes des développements en IA, le run en constituant une autre composante majeure.

“Le run est un énorme sujet”, reconnaît Didier Lellouche. Mais le run implique aussi une organisation adaptée, avec de nouvelles responsabilités confiées aux data scientists. En concertation avec l’IT, le département IA mène actuellement un chantier de réorganisation des équipes afin d’industrialiser le run.

CACIB décentralise un cran de plus avec la GenAI

D’autres entités du groupe Crédit Agricole développent elles aussi des applications de l’IA, à l’image de Crédit Agricole CIB. L’IA n’est d’ailleurs pas une nouveauté chez ce spécialiste du corporate banking. Pierre Dulon (deputy general manager) et Franck Desauty (managing director – AI Factory & Smart Automation) l’ont rappelé le 23 septembre, lors du Dataiku Summit Paris.

Le parcours de Crédit Agricole CIB en matière d’IA a débuté dès 2014 par des expérimentations, notamment sur le processus de connaissance client (KYC). Les premières années ont toutefois été marquées par de nombreux pilotes, mais “pas beaucoup de choses en production à l’époque” et un “bilan économique assez discutable”, selon les dirigeants.

La rupture est intervenue en 2021 avec la création d’une IA Factory, une entité centralisée de 50 collaborateurs chargée d’accélérer le déploiement de cas d’usage. Ce type de centre de delivery tend aujourd’hui à se généraliser dans les banques, comme le montrent les nombreux témoignages recueillis pour cette enquête.

Depuis, l’organisation évolue vers un modèle plus décentralisé. Objectif : rapprocher les compétences IA des métiers et des équipes IT, afin d’ancrer durablement ces expertises dans le quotidien opérationnel.

L’IA générative constitue un catalyseur majeur de cette transformation. Elle a également conduit CACIB à migrer massivement vers le cloud, pour disposer de la puissance de calcul requise.

En GenAI, la banque s’appuie sur son propre assistant interne, “Alfred”, un “secure GPT”, développé en interne. Ce choix lui a permis de renforcer sa maîtrise technologique, de mieux piloter les coûts et de contrôler les risques.

Selon Franck Desauty, cette approche est privilégiée par les directions des risques, peu enclines à recourir aux “boîtes noires” proposées par certains éditeurs. De son côté, la DSI redéfinit son rôle : les outils d’IA générative confèrent un pouvoir inédit aux utilisateurs finaux, obligeant à repenser les modèles de gouvernance et de contrôle.

Caisse des Dépôts : un déploiement IA souverain et stratégique

Comme le Crédit Agricole et d’autres grands groupes bancaires, la Caisse des Dépôts s’efforce d’apporter des réponses concrètes aux enjeux soulevés par la GenAI, en particulier ceux liés à la dépendance technologique et à la souveraineté.

Le 23 septembre, lors du Dataiku Summit, Hajer Ouerghi (chief information officer) et Guillaume Charrasse (responsable des Socles Data et IA) ont défendu une stratégie guidée par des impératifs de souveraineté et de conformité.

Pour les LLM, le choix stratégique s’est porté exclusivement sur Mistral. Les modèles sont déployés en mode self-hosted, et non via un service en ligne. Côté calcul, la Caisse des Dépôts s’appuie sur des GPU hébergés chez un fournisseur externe certifié SecNumCloud, sans disposer d’infrastructure GPU interne – contrairement à BNP Paribas ou au Crédit Agricole.

Le premier cas d’usage, développé pour pour la Direction des politiques sociales, vise à d’assister les chargés de relation client en générant des suggestions automatiques de réponses aux e-mails des usagers. Objectif : accroître l’efficacité opérationnelle et accélérer les temps de traitement.

Ce projet est soutenu au plus haut niveau de l’organisation, depuis la DSI jusqu’à la directrice générale déléguée – un engagement de gouvernance considéré comme un facteur déterminant de réussite. La feuille de route prévoit la mise en production d’ici la fin de l’année, puis l’ouverture progressive de la plateforme à d’autres directions métiers.

Société Générale : l’accent sur la culture et la frugalité

Au niveau organisationnel, Société Générale teste une nouvelle approche. En février, la banque a lancé SocGen AI, une entité chargée de piloter l’exploitation de l’IA à grande échelle dans le groupe. L’objectif affiché : accélérer l’intégration de l’intelligence artificielle et la création de valeur.

Société Générale ne remet toutefois pas totalement en cause le dispositif déjà existant autour de l’IA. Le CEO de SocGen AI, Nicolas Meric (ancien dirigeant de DreamQuark), travaille en étroite collaboration avec Étienne Guibout, directeur de l’IA du groupe.

Pour l’établissement, la mission de SocGen AI, en lien avec la direction de l’IA, est claire : “accélérer l’intégration de l’IA pour automatiser et optimiser les processus bancaires, tout en mettant l’accent sur l’innovation et l’efficacité opérationnelle”. Le groupe de La Défense illustre ainsi un virage plus large du secteur : faire de l’IA générative non plus une expérimentation effervescente, mais une culture de valeur et de sobriété.