RAG entreprise : faire répondre l'IA à partir de vos documents

Qu'est-ce que le RAG en entreprise ?

Le RAG (retrieval-augmented generation, ou génération augmentée par récupération) est une architecture dans laquelle l'IA va chercher l'information dans les données propres de l'entreprise avant de répondre [4]. Elle répond donc à partir de vos documents plutôt que de ses seules connaissances générales [5]. Une autre formulation dit que le RAG « branche » un modèle de langage sur les données internes au lieu de le laisser répondre de mémoire [33].

Deux briques combinées

Techniquement, le RAG combine un LLM (Large Language Model, modèle de langage) et une base documentaire pour répondre à partir des données de l'organisation [28]. Le modèle ne cherche pas seul : une étape de recherche dans les documents précède la rédaction de la réponse. Les sites publics de l'État cadrent l'usage de la même manière : la RAG peut automatiser ou assister des tâches qui nécessitent une recherche dans une base documentaire, par exemple des contrats [1].

Base de connaissances IA : définition

Une base de connaissances IA est le corpus de documents internes qu'un système RAG interroge pour fonder ses réponses. Cette formulation est une synthèse. Elle recoupe les définitions précédentes, qui parlent de « base documentaire » [1][28] et de « données propres de l'entreprise » [4]. Le périmètre de ce corpus est choisi par l'entreprise, et c'est lui qui borne ce que l'IA peut utiliser pour répondre.

Une architecture qui suppose des équipes formées

Le guide officiel, publié en novembre 2024 sur entreprises.gouv.fr, ajoute un point que les définitions techniques laissent de côté. Un projet de RAG demande un travail d'acculturation des équipes, qui passe notamment par la formation au prompt engineering, c'est-à-dire à la manière de formuler des requêtes au système [2].

Plusieurs des définitions citées ici viennent de sites de prestataires [4][5][28][33]. Elles convergent toutes sur le principe : chercher d'abord dans les documents, répondre ensuite.

En quoi un RAG diffère-t-il d'un assistant IA généraliste ?

Un assistant d'IA généraliste répond à partir de ce qu'il a appris pendant son entraînement, tandis qu'un RAG fonde ses réponses sur les documents que l'entreprise a choisis. Un prestataire du secteur le résume ainsi : le généraliste ne connaît ni les contrats, ni les procédures, ni les clients de l'organisation [18].

Ce que l'assistant généraliste ne sait pas

Un modèle généraliste s'appuie sur sa mémoire d'entraînement. Ce qui est propre à l'entreprise (un contrat signé le mois dernier, une procédure interne, l'historique d'un client) ne figure pas dans cette mémoire [18]. Sans accès à ces documents, il produit au mieux une réponse générique.

Ce que change le RAG

Le RAG (Retrieval-Augmented Generation, génération augmentée par récupération) fait répondre l'IA générative à partir des documents de l'entreprise plutôt que de ses connaissances générales [5]. Avant de rédiger, le système consulte les documents, puis s'en sert pour répondre [35]. Dans le cas du service client, l'IA cherche d'abord dans des sources définies par l'entreprise et utilise ce contenu comme contexte. La réponse se rapproche ainsi de ce qui existe déjà dans la base de connaissances, au lieu de dépendre de la seule « mémoire statistique » du modèle [34]. Aucun modèle n'a besoin d'être réentraîné pour cela [18].

Une nuance utile

Brancher un modèle sur des documents ne garantit pas, à soi seul, une bonne réponse. La qualité dépend de la manière dont les documents sont découpés et retrouvés : un mauvais découpage ou une récupération imprécise dégradent le résultat [31]. Plusieurs des sources citées ici émanent de prestataires (éditeurs, cabinets, agences) : leurs promesses de fiabilité sont à vérifier sur vos propres documents.

Comment fonctionne un RAG, étape par étape ?

Un RAG enchaîne une phase de recherche et une phase de génération : les sources sont indexées dans une base vectorielle, les passages pertinents sont retrouvés, puis transmis à un LLM avec la question [17][31].

1. Indexation. Les documents de l'entreprise (intranet, référentiels internes, politiques RH, guides qualité [15]) sont découpés en passages, puis indexés dans une base vectorielle [17][31].
2. Récupération. À chaque question, le système retrouve dans cette base les passages les plus pertinents [17].
3. Génération. Ces passages sont envoyés au LLM avec la question, dans un prompt du type : « Voici une question utilisateur et les extraits de documentation pertinents. Réponds uniquement sur la base de ces extraits, et cite tes sources. » [31] La réponse est ainsi produite avec des citations et des indices de traçabilité [14].

Deux mécanismes distincts dans un même pattern

Le RAG est un pattern d'architecture qui combine deux mécanismes distincts [6] : un modèle de langage génératif d'une part, un moteur de recherche connecté à une base de connaissances d'autre part [15]. Ce n'est donc pas un modèle à choisir, mais un assemblage dont chaque brique se règle séparément.

La qualité dépend de chaque étape

La qualité du résultat se joue à chaque étape du pipeline, pas dans le seul modèle. Selon Kanbios, qui décrit un processus en quatre étapes, un mauvais découpage ou une récupération imprécise dégradent le résultat [31]. Le prompt demandant de répondre uniquement à partir des extraits ne corrige pas ces défauts : si les passages transmis sont mal découpés ou hors sujet, le modèle travaille sur de mauvais extraits.

Ces points de contrôle se retrouvent à chaque niveau :

• Découpage : un passage coupé au mauvais endroit perd le contexte qui le rendait utile [31].
• Récupération : la recherche doit remonter les bons extraits, sans passer à côté ni en ramener d'inutiles [31].
• Génération : la consigne de ne répondre qu'à partir des extraits et de citer ses sources rend la réponse vérifiable [31][14].

Pour un DSI, cela déplace l'évaluation : on mesure d'abord ce que le système a récupéré, ensuite seulement ce que le modèle en a fait.

Quels bénéfices attendre du RAG, et lesquels sont à nuancer ?

Les bénéfices les plus souvent avancés pour le RAG sont la fiabilité, l'ancrage des réponses dans un corpus défini, la traçabilité et la confidentialité. Ces promesses viennent surtout d'acteurs commerciaux (prestataires, éditeurs), et certaines sont à relativiser.

Ce qui est avancé

• Fiabilité : chaque réponse s'appuie sur une base définie en amont (intranet, référentiels internes, politiques RH, guides qualité) et non sur la « mémoire statistique » du modèle [15].
• Traçabilité : la réponse cite sa source [12], et le dispositif conserve des citations et des indices de traçabilité [14]. Un éditeur annonce des citations jusqu'au passage exact (document, page, paragraphe) [27]. Ce niveau de précision dépend donc de l'offre.
• Confidentialité : un prestataire affirme que les documents internes deviennent exploitables par l'IA « sans compromis sur la confidentialité » [20].
• Souveraineté : plusieurs acteurs proposent des déploiements dits « souverains » [9][21]. Le dossier ne permet pas de vérifier ce que recouvre ce terme d'une offre à l'autre.

Ce qu'il faut nuancer

La formule « réduction drastique des hallucinations » vient d'un acteur commercial, qui écrit que le RAG réduit « drastiquement les erreurs et les hallucinations » [16]. D'autres sources emploient un verbe plus mesuré : la traçabilité sert à « limiter » les hallucinations [14]. Les extraits disponibles ne chiffrent pas cette réduction. Il faut donc la lire comme une tendance annoncée, non comme une garantie mesurée.

Même prudence pour la confidentialité et la souveraineté : ce sont des arguments d'offre, présentés par ceux qui les vendent.

Quant aux limites de l'architecture, une source annonce les traiter [6], mais les extraits fournis n'en détaillent aucune. On n'en affirme donc aucune ici, et on ne conclut pas non plus à leur absence. Avant de retenir un bénéfice, il faut le tester sur ses propres documents, en vérifiant les citations produites.

Quels sont les cas d'usage de l'IA sur documents internes ?

Les usages documentés du RAG ont un point commun : la réponse attendue se trouve déjà dans les documents de l'organisation, et il faut la retrouver puis la formuler. Quatre cas ressortent des sources.

Recherche dans une base documentaire. Selon France Num, l'IA générative, via le RAG, peut automatiser ou assister les tâches qui nécessitent une recherche dans une base documentaire, les contrats en étant un exemple [1]. Il s'agit d'une assistance à la recherche, pas d'un remplacement de la lecture des documents.

Assistant interne. Un assistant IA interne est alimenté par des documents de l'entreprise, par exemple des FAQ et des fiches produits. Il applique le principe du RAG : il recherche les informations pertinentes dans cette base documentaire avant de formuler sa réponse [24].

Service client. Avec le RAG, l'IA cherche d'abord des informations dans des sources définies par l'entreprise, puis s'en sert comme contexte pour répondre. La réponse se rapproche ainsi de ce que contient déjà la base de connaissances, au lieu de dépendre de la seule mémoire statistique du modèle [34].

Sources documentaires typiques. Le périmètre est fixé par l'entreprise. Un prestataire cite comme sources l'intranet, les référentiels internes, les politiques RH et les guides qualité [15]. Chaque réponse s'appuie alors sur une base définie en amont [15].

Un exemple de réponse rapide sur un handbook

Un prestataire décrit le résultat attendu ainsi : les collaborateurs posent la question au chatbot et obtiennent la réponse en 30 secondes, à partir d'un handbook à jour [8]. Ce délai est une promesse commerciale, non une mesure indépendante. L'exemple illustre surtout la condition de fond : la réponse n'est utile que si le document source est à jour.

Ces cas d'usage n'exigent pas les mêmes corpus. Des contrats, des FAQ produits et des politiques RH n'ont ni la même structure, ni les mêmes droits d'accès, ni le même rythme de mise à jour, ce qui pèse directement sur la préparation des sources.

Qu'est-ce qui conditionne la réussite d'un projet de RAG ?

La réussite d'un projet de RAG dépend moins du modèle de langage que de la qualité documentaire, des droits d'accès et de l'évaluation [13]. Ce constat vient d'un acteur commercial, mais le guide officiel et les autres sources du dossier placent eux aussi l'enjeu dans les documents et les usages plutôt que dans le choix du modèle.

Préparer les sources avant de brancher l'IA

La préparation des sources fait partie des étapes à traiter explicitement dans un projet de RAG [10]. Le mécanisme l'explique : les passages retrouvés sont envoyés au modèle avec la question, dans un prompt qui lui demande de répondre uniquement à partir de ces extraits et de citer ses sources [31]. Tout l'enjeu se joue donc dans la qualité de chacune des quatre étapes du processus. Un mauvais découpage ou une récupération imprécise dégradent le résultat [31].

Cadrer les droits d'accès

Les droits d'accès figurent parmi les trois facteurs de réussite cités [13]. Les sources du dossier n'en détaillent pas la mise en œuvre technique. Il revient à la DSI de définir, avant le déploiement, qui peut interroger quels documents.

Évaluer et vérifier les citations

L'évaluation est le troisième facteur identifié [13], et la vérification des citations est une étape à part entière [10]. Une réponse sourcée n'est pas pour autant exacte : le lien vers le passage cité sert à contrôler la réponse, pas à la dispenser de contrôle. Le dossier ne décrit pas de méthode d'évaluation précise.

Former les équipes à l'outil et au prompt engineering

Le guide de la génération augmentée par récupération publié par entreprises.gouv.fr en novembre 2024 recommande un travail d'acculturation à l'IA auprès des équipes [2]. Ce travail comporte deux volets, dont la formation à l'utilisation de l'outil, notamment au prompt engineering, c'est-à-dire à la manière de formuler les requêtes adressées au système de RAG [2].

Combien coûte un RAG d'entreprise et comment démarrer ?

Selon un prestataire, un RAG d'entreprise coûte entre 10 000 et 50 000 € de mise en place, puis 1 000 à 3 000 € par mois de fonctionnement [13]. Ces chiffres viennent d'un acteur commercial, qui les rattache à des baromètres français [13]. Ils donnent un ordre de grandeur, pas un tarif de référence : le dossier ne contient pas ces baromètres, et le périmètre exact couvert par ces montants n'y est pas détaillé.

La même source indique que la réussite dépend moins du modèle que de la qualité documentaire, des droits d'accès et de l'évaluation [13]. Le budget a donc intérêt à porter sur ces chantiers, et pas seulement sur la technologie.

Démarrer sans gros budget

Un premier RAG simple peut démarrer avec une poignée de documents, grâce à des outils comme NotebookLM ou ChatGPT [11]. Cette étape permet de tester l'approche sur un périmètre restreint avant d'engager un investissement de l'ordre de ceux cités plus haut.

Pour que ce premier essai soit instructif :

• Choisir un corpus limité et maîtrisé : quelques documents dont vous connaissez le contenu, afin de repérer facilement une réponse erronée.
• Préparer les sources et vérifier les citations : ce sont deux points de méthode que la littérature spécialisée met en avant [10].
• Impliquer les futurs utilisateurs : le guide de la direction générale des entreprises recommande un travail d'acculturation, qui comprend la formation à l'outil et au prompt engineering, c'est-à-dire à la formulation des requêtes [2].

Ce test ne dit pas tout du passage à l'échelle. Les points qui, selon la source commerciale, conditionnent la réussite (droits d'accès, évaluation) [13] ne sont pas résolus par un simple essai sur quelques fichiers. Ils sont à examiner avant tout déploiement élargi.

Comment constituer une base de connaissances interrogeable par l'IA avec Oupi ?

Oupi permet de constituer des bases de connaissances interrogeables par l'IA. Cela correspond au principe décrit plus haut : l'IA s'appuie sur un corpus documentaire défini par l'organisation, au lieu de répondre de mémoire.

Le principe : une base documentaire que l'IA consulte avant de répondre

Une base de connaissances, dans une approche RAG, est l'ensemble des documents que l'entreprise juge pertinents : FAQ, fiches produits, intranet, référentiels internes, politiques RH, guides qualité [24][15]. L'assistant recherche d'abord les informations pertinentes dans cette base documentaire, puis formule sa réponse [24]. La réponse se rapproche ainsi de ce qui existe déjà dans la base, au lieu de dépendre uniquement de la mémoire statistique du modèle [34].

C'est ce principe qu'Oupi met à disposition : réunir des documents en une base de connaissances, puis l'interroger par l'IA. Les pages Chat avec ses documents et Entreprise du site présentent l'offre. Cette section n'en détaille ni les fonctionnalités ni les conditions.

Ce qui reste déterminant, quel que soit l'outil

Choisir une plateforme ne dispense pas du travail décrit dans les sections précédentes. Les sources convergent sur quelques points de vigilance :

• Le contenu du corpus : la réussite dépend moins du modèle que de la qualité documentaire, des droits d'accès et de l'évaluation [13]. Un prestataire formule la même idée : tout se joue dans les documents [18].
• La préparation des sources : il faut les préparer, vérifier les citations et traiter les cas limites [10].
• La qualité de la chaîne de traitement : un mauvais découpage ou une récupération imprécise dégradent le résultat [31].
• L'accompagnement des équipes : le guide de l'administration française sur la RAG recommande un travail d'acculturation, avec une formation à l'outil et au prompt engineering, c'est-à-dire à la formulation des requêtes [2].

Pour un premier périmètre, la démarche la plus sûre consiste à partir d'un corpus restreint et maîtrisé. Des sources évoquent un premier RAG simple, bâti sur une poignée de documents [11]. On vérifie ensuite que les réponses citent bien les passages attendus avant d'élargir la base.