RAG explicado: por qué tu chatbot alucina y cómo corregirlo

Por qué un chatbot "inteligente" te inventa respuestas

Le preguntas a un chatbot por tus condiciones de envío, por el precio de un servicio o por una política interna. Te responde con seguridad, y lo que dice es falso. No es un fallo puntual: es lo que hace un modelo de lenguaje general cuando no tiene tu información. No sabe lo que no se le ha dado, así que rellena el hueco con lo que estadísticamente suena bien. A eso se le llama alucinación: texto coherente, dato inventado.

Muchos chatbots de los que se venden como "IA para tu negocio" funcionan así, sobre un modelo genérico sin nada que lo ate a tu realidad. Sirven para desviar preguntas triviales. Son un problema en cuanto alguien pregunta algo concreto de tu empresa.

Qué es RAG y qué resuelve exactamente

RAG son las siglas de Retrieval-Augmented Generation: generación aumentada por recuperación. Cuando llega una pregunta, el sistema no va directo al modelo. Primero busca en tu base de conocimiento (documentos, catálogo, procedimientos) los fragmentos más relevantes, y después le pasa esos fragmentos al modelo junto con la pregunta. El modelo responde a partir de lo que acaba de leer, no de lo que memorizó en su entrenamiento.

La consecuencia práctica: si mañana cambias una política, actualizas el documento y el chatbot responde con la versión nueva. No hay que reentrenar nada.

Las piezas de un RAG que funciona

Muchos sistemas llaman RAG a una búsqueda por palabras clave sobre un PDF. Uno que funciona tiene estas piezas, y todas tienen que estar bien:

• Indexación semántica. Los documentos se trocean y cada fragmento se convierte en un vector que representa su significado, no solo sus palabras.
• Recuperación por similitud. La pregunta se compara con esos vectores y se recuperan los fragmentos más cercanos, aunque no compartan vocabulario.
• Contexto controlado. Se decide cuántos fragmentos pasan al modelo y a partir de qué nivel de parecido se aceptan. Pasar de más o de menos empeora la respuesta.
• Límites de salida. Algo que impida al modelo fabricar información cuando no ha encontrado nada. La respuesta correcta en ese caso es "no tengo esa información", no una invención plausible.

Lo que falla en implementaciones reales

Los puntos de fallo habituales no son los que salen en las demos:

• Documentos mal estructurados. Escaneos sin texto limpio, FAQs en hojas de cálculo con celdas combinadas o versiones contradictorias. La recuperación falla antes de que el modelo entre en juego.
• Fragmentos mal cortados. Demasiado grandes traen ruido; demasiado pequeños dejan la respuesta a medias, y el modelo rellena.
• Sin comprobación de salida. El modelo mezcla lo recuperado con su conocimiento general. Salen respuestas medio correctas, que son más peligrosas que las claramente erróneas.
• Sin paso a una persona. Si el chatbot no tiene a quién derivar, improvisa. Siempre.

Dos casos de mi propio trabajo

El primero fue Legalito, un chatbot legal que construí con RAG sobre legislación oficial: una versión en español, para España y diez países latinoamericanos, y otra en portugués, para Brasil y diez países latinoamericanos. Ya no está en servicio. En un dominio así, una alucinación no es un error de estilo: es un consejo legal inventado. Estaba diseñado para no responder cuando no encontraba base documental suficiente, y eso fue lo que lo hizo utilizable.

El segundo es el asistente de esta web. Su base de conocimiento está troceada por pregunta real (cada fragmento responde una pregunta de principio a fin), y ninguna cifra de su base de conocimiento está fuera de lo publicado en la web. Antes de enviar una respuesta, una comprobación determinista verifica que cada precio, porcentaje o cantidad aparece en los fragmentos recuperados para esa pregunta. Si sobra uno, esa respuesta no se envía y se le pide al usuario que confirme el dato con una persona. Lo cuento en la reja que no deja pasar cifras inventadas.

La calidad de las respuestas depende sobre todo de la calidad de los documentos. RAG no arregla un material contradictorio; lo reproduce.

Cómo comprobar si un chatbot usa RAG de verdad

• ¿Puede decirte de dónde sale cada respuesta? Un sistema RAG honesto sabe qué fragmento originó la respuesta.
• ¿Qué hace cuando la respuesta no está en los documentos? Debe decirlo o derivar. Si "siempre encuentra algo útil", mala señal.
• ¿Cómo se actualiza la base de conocimiento? Si cada cambio pasa por abrir una incidencia con el proveedor, no está pensado para mantenerse.
• ¿Qué pasa con tus documentos? Pregunta dónde se guardan y si puedes exportarlos, a ellos y a los registros de conversación.

La prueba más rápida: pregúntale algo que sabes que no está en sus documentos, por ejemplo una política que cambiaste hace dos semanas y que aún no has subido. Si contesta con detalle y seguridad, no tiene límites de salida.

Lo que cuesta

Un chatbot RAG para una pyme tiene un coste de puesta en marcha (preparar e indexar los documentos, integrarlo en tus canales) y otro mensual de operación. En mi servicio los precios están publicados: prueba de concepto de 7 días por 158 € (no deducible del setup); setup a precio fijo, 529 € (widget web) u 849 € (web y Telegram); y planes mensuales de 84 €, 190 € o 423 € según el volumen de mensajes. Todo con IVA e IRPF incluidos; solo para empresas y autónomos con domicilio fiscal en España. Puedes exportar tus documentos y los registros cuando quieras. El detalle, en la página del chatbot para empresas.

Cuándo RAG no es la solución

Si recibes siempre las mismas diez preguntas y las respuestas no cambian, un flujo sencillo es más fiable y más barato. RAG compensa cuando la información es amplia, cambia a menudo o las preguntas son demasiado variadas para un árbol fijo. Lo desarrollo en cuándo RAG funciona y cuándo es ruido, y el resto de fallos que hunden un chatbot, más allá de RAG, en chatbots para empresas: por qué fallan y cómo evitarlo.

Daniel · Arquitecto Digital. Los sistemas los diseño y dirijo yo; la implementación la hago con asistentes de IA de programación.