RAG entreprise : faire répondre l'IA à partir de vos documents

¿Qué es el RAG en empresas?

El RAG (retrieval-augmented generation, o generación aumentada por recuperación) es una arquitectura en la que la IA busca información en los datos propios de la empresa antes de responder [4]. Por tanto, responde a partir de sus documentos y no solo con sus conocimientos generales [5]. Otra formulación dice que el RAG «conecta» un modelo de lenguaje a los datos internos en lugar de dejarlo responder de memoria [33].

Dos componentes combinados

Técnicamente, el RAG combina un LLM (Large Language Model, modelo de lenguaje de gran tamaño) y una base documental para responder a partir de los datos de la organización [28]. El modelo no busca por sí solo: una etapa de búsqueda en los documentos precede a la redacción de la respuesta. Los sitios públicos del Estado enmarcan el uso de la misma manera: el RAG puede automatizar o asistir tareas que requieren buscar en una base documental, por ejemplo, en contratos [1].

Base de conocimiento de IA: definición

Una base de conocimiento de IA es el corpus de documentos internos que un sistema RAG consulta para fundamentar sus respuestas. Esta formulación es una síntesis. Coincide con las definiciones anteriores, que hablan de «base documental» [1][28] y de «datos propios de la empresa» [4]. El alcance de este corpus lo elige la empresa, y es lo que delimita lo que la IA puede utilizar para responder.

Una arquitectura que requiere equipos formados

La guía oficial, publicada en noviembre de 2024 en entreprises.gouv.fr, añade un punto que las definiciones técnicas dejan de lado. Un proyecto de RAG exige un trabajo de aculturación de los equipos, que pasa en particular por la formación en prompt engineering, es decir, en la manera de formular consultas al sistema [2].

Varias de las definiciones citadas aquí proceden de sitios de proveedores [4][5][28][33]. Todas convergen en el principio: buscar primero en los documentos, responder después.

¿En qué se diferencia un RAG de un asistente de IA generalista?

Un asistente de IA generalista responde a partir de lo que aprendió durante su entrenamiento, mientras que un RAG basa sus respuestas en los documentos que la empresa ha elegido. Un proveedor del sector lo resume así: el generalista no conoce los contratos, los procedimientos ni los clientes de la organización [18].

Lo que el asistente generalista no sabe

Un modelo generalista se apoya en su memoria de entrenamiento. Lo específico de la empresa (un contrato firmado el mes pasado, un procedimiento interno, el historial de un cliente) no figura en esa memoria [18]. Sin acceso a esos documentos, produce como mucho una respuesta genérica.

Lo que cambia con el RAG

El RAG (Retrieval-Augmented Generation, generación aumentada por recuperación) hace que la IA generativa responda a partir de los documentos de la empresa y no de sus conocimientos generales [5]. Antes de redactar, el sistema consulta los documentos y después los utiliza para responder [35]. En el caso del servicio al cliente, la IA busca primero en fuentes definidas por la empresa y utiliza ese contenido como contexto. Así, la respuesta se acerca a lo que ya existe en la base de conocimiento, en lugar de depender únicamente de la «memoria estadística» del modelo [34]. Para ello no es necesario reentrenar ningún modelo [18].

Un matiz útil

Conectar un modelo a documentos no garantiza por sí solo una buena respuesta. La calidad depende de cómo se fragmentan y recuperan los documentos: una mala segmentación o una recuperación imprecisa degradan el resultado [31]. Varias de las fuentes citadas aquí proceden de proveedores (editores, consultoras, agencias): sus promesas de fiabilidad deben verificarse con sus propios documentos.

¿Cómo funciona un RAG, paso a paso?

Un RAG encadena una fase de búsqueda y una fase de generación: las fuentes se indexan en una base vectorial, se recuperan los pasajes pertinentes y se transmiten a un LLM junto con la pregunta [17][31].

1. Indexación. Los documentos de la empresa (intranet, referenciales internos, políticas de RR. HH., guías de calidad [15]) se dividen en pasajes y se indexan en una base vectorial [17][31].
2. Recuperación. En cada pregunta, el sistema recupera de esa base los pasajes más pertinentes [17].
3. Generación. Estos pasajes se envían al LLM junto con la pregunta, en un prompt del tipo: «Aquí tienes una pregunta del usuario y los extractos de documentación pertinentes. Responde únicamente a partir de estos extractos y cita tus fuentes». [31] La respuesta se produce así con citas e indicadores de trazabilidad [14].

Dos mecanismos distintos en un mismo patrón

El RAG es un patrón de arquitectura que combina dos mecanismos distintos [6]: por un lado, un modelo de lenguaje generativo; por otro, un motor de búsqueda conectado a una base de conocimiento [15]. No es, por tanto, un modelo que elegir, sino un ensamblaje cuyo cada componente se ajusta por separado.

La calidad depende de cada etapa

La calidad del resultado se juega en cada etapa del proceso, no solo en el modelo. Según Kanbios, que describe un proceso en cuatro etapas, una mala segmentación o una recuperación imprecisa degradan el resultado [31]. La consigna de responder únicamente a partir de los extractos no corrige estos defectos: si los pasajes transmitidos están mal fragmentados o no vienen al caso, el modelo trabaja con malos extractos.

Estos puntos de control se encuentran en cada nivel:

• Fragmentación: un pasaje cortado en el lugar equivocado pierde el contexto que lo hacía útil [31].
• Recuperación: la búsqueda debe traer los extractos adecuados, sin dejar pasar ninguno importante ni traer innecesarios [31].
• Generación: la consigna de responder solo a partir de los extractos y de citar las fuentes hace verificable la respuesta [31][14].

Para un director de sistemas de información (DSI), esto desplaza la evaluación: primero se mide lo que el sistema ha recuperado y solo después lo que el modelo ha hecho con ello.

¿Qué beneficios cabe esperar del RAG, y cuáles deben matizarse?

Los beneficios que más se citan del RAG son la fiabilidad, el anclaje de las respuestas en un corpus definido, la trazabilidad y la confidencialidad. Estas promesas provienen sobre todo de actores comerciales (proveedores, editores), y algunas deben relativizarse.

Lo que se afirma

• Fiabilidad: cada respuesta se apoya en una base definida de antemano (intranet, referenciales internos, políticas de RR. HH., guías de calidad) y no en la «memoria estadística» del modelo [15].
• Trazabilidad: la respuesta cita su fuente [12], y el dispositivo conserva citas e indicadores de trazabilidad [14]. Un editor anuncia citas hasta el pasaje exacto (documento, página, párrafo) [27]. Este nivel de precisión depende, por tanto, de la oferta.
• Confidencialidad: un proveedor afirma que los documentos internos pasan a ser explotables por la IA «sin comprometer la confidencialidad» [20].
• Soberanía: varios actores proponen despliegues llamados «soberanos» [9][21]. El expediente no permite verificar qué abarca este término de una oferta a otra.

Lo que hay que matizar

La fórmula «reducción drástica de las alucinaciones» procede de un actor comercial, que escribe que el RAG reduce «drásticamente los errores y las alucinaciones» [16]. Otras fuentes emplean un verbo más moderado: la trazabilidad sirve para «limitar» las alucinaciones [14]. Los extractos disponibles no cuantifican esta reducción. Debe leerse, por tanto, como una tendencia anunciada, no como una garantía medida.

La misma prudencia se aplica a la confidencialidad y a la soberanía: son argumentos de oferta, presentados por quienes los venden.

En cuanto a los límites de la arquitectura, una fuente anuncia que los aborda [6], pero los extractos proporcionados no detallan ninguno. Por tanto, aquí no afirmamos ninguno, y tampoco concluimos que no existan. Antes de dar por bueno un beneficio, hay que probarlo con los propios documentos, verificando las citas producidas.

¿Cuáles son los casos de uso de la IA sobre documentos internos?

Los usos documentados del RAG tienen un punto en común: la respuesta buscada ya se encuentra en los documentos de la organización, y hay que localizarla y luego formularla. Las fuentes destacan cuatro casos.

Búsqueda en una base documental. Según France Num, la IA generativa, mediante el RAG, puede automatizar o asistir las tareas que requieren buscar en una base documental, siendo los contratos un ejemplo [1]. Se trata de una asistencia a la búsqueda, no de un reemplazo de la lectura de los documentos.

Asistente interno. Un asistente de IA interno se alimenta de documentos de la empresa, por ejemplo, preguntas frecuentes y fichas de productos. Aplica el principio del RAG: busca la información pertinente en esta base documental antes de formular su respuesta [24].

Servicio al cliente. Con el RAG, la IA busca primero información en fuentes definidas por la empresa y luego la utiliza como contexto para responder. Así, la respuesta se acerca a lo que ya contiene la base de conocimiento, en lugar de depender solo de la memoria estadística del modelo [34].

Fuentes documentales típicas. El alcance lo fija la empresa. Un proveedor cita como fuentes la intranet, los referenciales internos, las políticas de RR. HH. y las guías de calidad [15]. Cada respuesta se apoya entonces en una base definida de antemano [15].

Un ejemplo de respuesta rápida sobre un manual

Un proveedor describe así el resultado esperado: los colaboradores hacen la pregunta al chatbot y obtienen la respuesta en 30 segundos, a partir de un manual actualizado [8]. Este plazo es una promesa comercial, no una medición independiente. El ejemplo ilustra sobre todo la condición de fondo: la respuesta solo es útil si el documento fuente está actualizado.

Estos casos de uso no exigen los mismos corpus. Los contratos, las preguntas frecuentes de productos y las políticas de RR. HH. no tienen la misma estructura, ni los mismos derechos de acceso, ni el mismo ritmo de actualización, lo que pesa directamente en la preparación de las fuentes.

¿Qué determina el éxito de un proyecto de RAG?

El éxito de un proyecto de RAG depende menos del modelo de lenguaje que de la calidad documental, de los derechos de acceso y de la evaluación [13]. Esta conclusión proviene de un actor comercial, pero la guía oficial y las demás fuentes del expediente también sitúan el reto en los documentos y los usos, más que en la elección del modelo.

Preparar las fuentes antes de conectar la IA

La preparación de las fuentes forma parte de las etapas que deben tratarse explícitamente en un proyecto de RAG [10]. El mecanismo lo explica: los pasajes recuperados se envían al modelo junto con la pregunta, en un prompt que le pide responder únicamente a partir de esos extractos y citar sus fuentes [31]. Todo el reto se juega, por tanto, en la calidad de cada una de las cuatro etapas del proceso. Una mala fragmentación o una recuperación imprecisa degradan el resultado [31].

Definir los derechos de acceso

Los derechos de acceso figuran entre los tres factores de éxito citados [13]. Las fuentes del expediente no detallan su implementación técnica. Corresponde a la DSI definir, antes del despliegue, quién puede consultar qué documentos.

Evaluar y verificar las citas

La evaluación es el tercer factor identificado [13], y la verificación de las citas es una etapa en sí misma [10]. Una respuesta con fuentes no es por ello exacta: el enlace al pasaje citado sirve para controlar la respuesta, no para eximirla de control. El expediente no describe un método de evaluación preciso.

Formar a los equipos en la herramienta y en el prompt engineering

La guía sobre la generación aumentada por recuperación publicada por entreprises.gouv.fr en noviembre de 2024 recomienda un trabajo de aculturación en IA dirigido a los equipos [2]. Este trabajo incluye dos aspectos, entre ellos la formación en el uso de la herramienta, en particular en prompt engineering, es decir, en la manera de formular las consultas dirigidas al sistema RAG [2].

¿Cuánto cuesta un RAG empresarial y cómo empezar?

Según un proveedor, un RAG empresarial cuesta entre 10 000 y 50 000 € de puesta en marcha, y después entre 1 000 y 3 000 € al mes de funcionamiento [13]. Estas cifras provienen de un actor comercial, que las vincula a barómetros franceses [13]. Dan un orden de magnitud, no una tarifa de referencia: el expediente no contiene esos barómetros, y el alcance exacto que cubren esos importes no se detalla.

La misma fuente indica que el éxito depende menos del modelo que de la calidad documental, de los derechos de acceso y de la evaluación [13]. El presupuesto debe, por tanto, centrarse en estos frentes, y no solo en la tecnología.

Empezar sin un gran presupuesto

Un primer RAG sencillo puede comenzar con unos pocos documentos, gracias a herramientas como NotebookLM o ChatGPT [11]. Esta etapa permite probar el enfoque en un alcance limitado antes de comprometer una inversión del orden de las cifras citadas arriba.

Para que este primer intento sea instructivo:

• Elegir un corpus limitado y controlado: unos pocos documentos cuyo contenido conozca, para detectar fácilmente una respuesta errónea.
• Preparar las fuentes y verificar las citas: son dos puntos de método que la literatura especializada destaca [10].
• Implicar a los futuros usuarios: la guía de la Dirección General de Empresas recomienda un trabajo de aculturación que incluye la formación en la herramienta y en prompt engineering, es decir, en la formulación de las consultas [2].

Esta prueba no dice todo sobre el escalado. Los puntos que, según la fuente comercial, condicionan el éxito (derechos de acceso, evaluación) [13] no se resuelven con un simple ensayo sobre algunos archivos. Deben examinarse antes de cualquier despliegue ampliado.

¿Cómo constituir una base de conocimiento consultable por la IA con Oupi?

Oupi permite constituir bases de conocimiento consultables por la IA. Esto corresponde al principio descrito anteriormente: la IA se apoya en un corpus documental definido por la organización, en lugar de responder de memoria.

El principio: una base documental que la IA consulta antes de responder

Una base de conocimiento, en un enfoque RAG, es el conjunto de documentos que la empresa considera pertinentes: preguntas frecuentes, fichas de productos, intranet, referenciales internos, políticas de RR. HH., guías de calidad [24][15]. El asistente busca primero la información pertinente en esta base documental y después formula su respuesta [24]. Así, la respuesta se acerca a lo que ya existe en la base, en lugar de depender únicamente de la memoria estadística del modelo [34].

Este es el principio que Oupi pone a disposición: reunir documentos en una base de conocimiento y consultarla con IA. Las páginas Chat con tus documentos y Empresa del sitio presentan la oferta. Esta sección no detalla ni sus funcionalidades ni sus condiciones.

Lo que sigue siendo determinante, sea cual sea la herramienta

Elegir una plataforma no exime del trabajo descrito en las secciones anteriores. Las fuentes convergen en algunos puntos de atención:

• El contenido del corpus: el éxito depende menos del modelo que de la calidad documental, de los derechos de acceso y de la evaluación [13]. Un proveedor expresa la misma idea: todo se juega en los documentos [18].
• La preparación de las fuentes: hay que prepararlas, verificar las citas y tratar los casos límite [10].
• La calidad de la cadena de tratamiento: una mala fragmentación o una recuperación imprecisa degradan el resultado [31].
• El acompañamiento de los equipos: la guía de la administración francesa sobre el RAG recomienda un trabajo de aculturación, con formación en la herramienta y en prompt engineering, es decir, en la formulación de las consultas [2].

Para un primer alcance, lo más prudente es partir de un corpus reducido y controlado. Algunas fuentes mencionan un primer RAG sencillo, construido sobre unos pocos documentos [11]. Después, se verifica que las respuestas citen efectivamente los pasajes esperados antes de ampliar la base.