BNP Paribas déploie une plateforme interne de LLM-as-a-Service

BNP Paribas a annoncé le 5 juin avoir conçu et déployé une plateforme interne de LLM (Large Language Model)-as-a-Service afin de permettre aux entités du groupe “un accès unifié et sécurisé” à une sélection de modèles de langage adaptés à leurs besoins. La plateforme “renforce la capacité des métiers à intégrer rapidement l’IA générative dans leurs processus existants”, assure BNP Paribas.

La plateforme, hébergée dans les data centers du groupe, donne accès à des modèles open source dont ceux de Mistral AI (qui a signé en juillet 2024 un partenariat pluriannuel avec la banque) et “prochainement des modèles entraînés sur des corpus internes, selon les besoins spécifiques”. Elle a d’abord été testée dans plusieurs entités, comme Hello Bank! et l’inspection générale, et a vocation à être généralisée à l’échelle du groupe. 

À noter : Plusieurs cas d’usage d’IA générative sont déjà en production ou en expérimentation chez BNP Paribas (assistants internes, génération de documents, recherche d’information dans des corpus de documents…). La banque indiquait en juin 2024 avoir déjà traité 100 cas d’usage. Quant à la banque commerciale en France (BCEF), son chief operating officer indiquait en mars à mind Fintech que l’IA générative représente “un petit quart de ses investissements en IA”, dont un assistant pour les collaborateurs et un chatbot pour les clients d’Hello Bank!, Genius, qui sera ouvert à un million de clients en 2025.