Alucinaciones de la IA: cómo reducirlas en la práctica

¿Qué es una alucinación de la IA y se pueden eliminar?

Una alucinación de la IA es una respuesta falsa, pero formulada con seguridad por un modelo de lenguaje, que inventa un hecho, una fuente o una cifra [34]. Lo más habitual es que nada en el tono delate el error. Algunas definiciones son más amplias: incluyen cualquier resultado inexacto, engañoso o incoherente [37], o cualquier información falsa producida por un modelo de IA generativa [18].

¿Se pueden eliminar?

No: hasta hoy, una eliminación total no es posible [33]. Varios elementos convergen:

• Una constatación teórica. Según un artículo de Monde Numérique, trabajos teóricos concluyen que estas alucinaciones son inevitables y no pueden eliminarse por completo, sea cual sea la arquitectura o los datos de entrenamiento [40].
• Un origen ligado al funcionamiento. La capacidad que hace inventivos a los modelos produce también, a veces, una mezcla entre hechos e invenciones. Por tanto, no son simples errores de programación [24].
• Ninguna técnica aislada basta. Según Databricks, editor de plataformas de datos, ninguna técnica única las elimina [31].

¿Qué hacer entonces?

Se pueden reducir considerablemente [40]. Esto requiere una combinación de salvaguardas en lugar de una solución única: buenas prácticas de datos, límites claros del sistema, pruebas continuas y supervisión humana [31]. Otra guía enumera siete técnicas: RAG (generación aumentada por recuperación), citas obligatorias, prompt «según X», descomposición de las preguntas, temperatura baja, Chain-of-Verification y validación humana. Precisa que ninguna elimina por completo el riesgo y que la verificación humana sigue siendo necesaria [32].

Las secciones siguientes detallan estas salvaguardas, desde la preparación de la pregunta hasta la verificación de la respuesta.

¿Por qué una IA inventa respuestas?

Una IA inventa porque produce texto verosímil en lugar de verificar hechos, y varios factores agravan este riesgo. Se documentan cinco causas típicas: la falta de contexto, los datos obsoletos, las instrucciones poco precisas, los sesgos de entrenamiento y el exceso de confianza del modelo [16].

Los datos también desempeñan un papel: las alucinaciones aparecen cuando la IA carece de datos estructurados, fiables y aprovechables [21]. Una guía dirigida a los directores de sistemas de información precisa que un documento contradictorio u obsoleto, proporcionado como fuente, es una causa casi segura de error, ya que la respuesta no puede superar la calidad de lo que se le da [28].

Por qué la inventiva y el error están ligados

Las alucinaciones no son simples errores de programación. La capacidad que hace inventivos a los modelos es la misma que provoca, a veces, una mezcla entre hechos e invenciones [24]. Esta constatación concierne a herramientas muy extendidas, entre ellas ChatGPT y Gemini [24]. Corregir una sola de las causas anteriores no basta, por tanto, para hacer desaparecer el fenómeno.

Una reserva sobre estas fuentes

Estas causas provienen sobre todo de sitios web, a menudo redactados por actores que ofrecen sus propias soluciones, y no de estudios revisados por pares. Describen factores citados con frecuencia, sin medir el peso de cada uno.

¿Cómo reducir las alucinaciones incluso antes de hacer la pregunta?

Cuatro palancas actúan antes de la consulta, de la más estructural a la más sencilla: anclar el modelo en tus documentos, cuidar esas fuentes, estructurar el prompt y bajar la temperatura. Reducen el riesgo sin suprimirlo: ninguna técnica única elimina las alucinaciones [31][32].

Anclar el modelo en tus documentos (RAG). Lo más eficaz es limitar lo que la IA tiene que «adivinar», proporcionándole tus propios documentos como base [13]. El RAG (generación aumentada por recuperación) conecta el modelo con fuentes fiables antes de que genere su respuesta [30]. Figura entre las técnicas recomendadas por varias guías [10][11][25][32]. Un sitio especializado sostiene que, con un RAG bien configurado, la tasa de errores factuales caería generalmente entre el 1 % y el 3 % [28]. Retoma esta cifra de un artículo de terceros, sin medirla por sí mismo: es una indicación, no una garantía.

Cuidar la calidad y la fecha de las fuentes. Un documento contradictorio u obsoleto es una fuente de alucinaciones casi segura, y la respuesta no supera la calidad de lo que se le proporciona [28]. Los datos estructurados, fiables y aprovechables limitan los errores [21].

Estructurar el prompt. Un prompt bien construido reduce los riesgos [30]. Las técnicas citadas son el razonamiento paso a paso, el prompt «según X» y la descomposición de la pregunta en subpreguntas [32]. Una instrucción puede así pedir razonar paso a paso y privilegiar las fuentes fiables [39]. Los prompts que tienen en cuenta la incertidumbre también figuran entre las vías propuestas [23].

Bajar la temperatura cuando la herramienta lo permite. En API, una temperatura de 0,1 a 0,3 reduce las respuestas creativas, y por tanto las alucinaciones [27]. Este ajuste se presenta como la base de las estrategias de mitigación [11]. Muchas interfaces de chat no lo exponen.

¿Por qué pedir fuentes citadas y qué valen?

Pedir fuentes citadas hace controlable una respuesta de IA: en lugar de una afirmación que hay que creer a ciegas, obtienes elementos que puedes contrastar con el original. En los usos donde la precisión factual es crítica, se puede obligar al modelo a citar con exactitud sus fuentes: nombre del documento, página, URL [10]. Las «citas forzadas» figuran entre las siete técnicas prácticas recogidas contra las alucinaciones [32]. Mostrar las fuentes utilizadas para generar una respuesta es, además, una práctica sencilla que refuerza la confianza [28].

Una fuente citada no es una fuente verificada

Una cita puede a su vez ser inventada: un modelo puede fabricar un hecho, una cifra o una referencia [34]. Según una fuente, el 30 % de las citas generadas por chatbots serían alucinadas [32]. Hay que abrir, por tanto, cada enlace y cada referencia citada, porque ahí es donde se encuentran las fuentes inventadas [38]. En concreto:

• comprobar que el enlace se abre y lleva realmente al documento anunciado;
• buscar el título exacto de un estudio o artículo, y contrastarlo en Google Scholar o Semantic Scholar para las publicaciones académicas [32];
• leer el pasaje correspondiente para confirmar que dice efectivamente lo que la respuesta le atribuye;
• contrastar los datos de riesgo con una fuente primaria fiable [38].

Incluso con citas, ninguna solución elimina por completo las alucinaciones: la verificación humana sigue siendo necesaria [32].

Una práctica válida con todas las herramientas

Oupi cita sus fuentes en la investigación profunda, lo que facilita este control (véase el chat con documentos y la búsqueda). Pero la exigencia vale con cualquier herramienta: pide referencias y verifícalas una a una.

¿Cómo verificar una respuesta de IA, paso a paso?

El método se resume en cuatro gestos: identificar los datos de riesgo, contrastarlos con una fuente primaria, abrir cada enlace citado y, después, validar manualmente antes de cualquier publicación. Se aplica a cualquier herramienta, porque una alucinación puede recaer sobre un hecho, una fuente o una cifra [34].

1. Identificar los datos de riesgo. Cuanto más precisa es una información (fecha, cifra, cita), más exige verificación [27]. Subraya estos elementos en la respuesta antes de reutilizarla.
2. Contrastar con una fuente primaria. Compara cada dato de riesgo con una fuente primaria fiable: texto oficial, institución, publicación de investigación [38]. Los revisores humanos que comparan los resultados con fuentes fiables pueden así detectar y corregir los errores [26].
3. Abrir cada enlace y cada referencia. Ahí es donde se encuentran las fuentes inventadas [38]. Si un enlace no lleva a ninguna parte o no confirma la afirmación, descártala.
4. Buscar el título exacto de una fuente citada. Cópialo en un motor de búsqueda: si no existe, se trata de una alucinación [27].

Una vez realizadas estas comprobaciones, nunca publiques una cifra o una cita sin control manual [27]. Ninguna técnica elimina por completo las alucinaciones, y la verificación humana sigue siendo necesaria [32].

Este método es más rápido cuando la herramienta proporciona fuentes. En la investigación profunda, Oupi cita las suyas, lo que da enlaces que abrir y referencias que controlar (véase la búsqueda en tus documentos). Estas citas siguen siendo un punto de partida: es la apertura de la fuente lo que valida la respuesta.

¿Cómo organizar la fiabilidad de la IA en un equipo?

En un equipo, la regla básica es sencilla: la IA redacta un borrador, el humano valida, corrige y firma. Todo contenido que sale de la empresa (correo a un cliente, informe, oferta comercial, publicación) debe ser revisado por una persona competente [13].

Superponer varias defensas. Ninguna técnica única elimina las alucinaciones. Hay que combinar buenas prácticas de datos, límites claros del sistema, pruebas continuas y supervisión humana [31]. Es preferible prevenir que detectar después, con varias capas de defensa que cubran los datos, los modelos y la gobernanza [12]. La retroalimentación de los revisores sirve después para afinar los prompts, la recuperación documental y las políticas internas. Este ciclo reduce los errores con el tiempo [12]. En cuanto a las herramientas, se trata de elegir plataformas fiables, añadir RAG, redactar instrucciones precisas y prever una supervisión humana [25].

Formar y equipar a los usuarios. La defensa en la empresa incluye formar a los equipos para reconocer una respuesta inventada [34]. Para la documentación profesional, una fuente académica recomienda establecer reglas de buenas prácticas y sensibilizar a los usuarios [5]. Otra publica recomendaciones para un uso seguro y crítico de la IA generativa [1].

Mantener el espíritu crítico. Según un trabajo de investigación, el espíritu crítico no se decreta: requiere una práctica intencionada [9]. En la práctica, esto significa hacer de la verificación un gesto habitual y no un control excepcional.

Precisión sobre las fuentes: los extractos disponibles de [1], [5] y [9] son breves y truncados, y ofrecen orientaciones más que un método completo. Las demás referencias proceden de sitios de editores y proveedores, que tienen un interés comercial en estos temas.