Los chatbots genéricos inventan respuestas porque no tienen acceso a tu información real. RAG soluciona eso, y no necesitas un presupuesto de gran empresa para implementarlo.
El problema que nadie te explica bien
Pruebas un chatbot de IA. Le preguntas por tus condiciones de envío, por el precio de un servicio concreto o por una política interna. Te responde con seguridad. Y lo que te dice es incorrecto.
Esto no es un fallo puntual. Es el comportamiento esperado de un modelo de lenguaje general que no tiene acceso a tu información. El modelo no sabe lo que no se le ha enseñado, así que rellena los huecos con lo que estadísticamente parece plausible. A eso se le llama alucinación: el modelo genera texto coherente pero factualmente falso.
La mayoría de chatbots de FAQ, de los que se venden como "solución IA para tu negocio", funcionan sobre modelos genéricos sin ningún mecanismo que los ancle a tu realidad. Son útiles para desviar tickets simples. Son un problema cuando alguien les pregunta algo específico de tu empresa.
Qué es RAG y qué resuelve exactamente
RAG son las siglas de Retrieval-Augmented Generation. En español: generación aumentada por recuperación. El concepto es más sencillo de lo que parece el nombre.
Cuando un usuario hace una pregunta, el sistema no va directamente al modelo de lenguaje. Primero busca en una base de conocimiento propia —tus documentos, tu catálogo, tus procedimientos— los fragmentos más relevantes para esa pregunta. Luego pasa esos fragmentos al modelo junto con la pregunta. El modelo genera la respuesta basándose en lo que acaba de leer, no en lo que memorizó durante su entrenamiento.
La diferencia práctica es importante: el modelo ya no necesita "saber" nada de tu empresa de antemano. Lo lee en el momento. Si mañana cambias una política, actualizas el documento y el chatbot responde con la versión nueva. Sin reentrenar nada.
Por qué los chatbots genéricos no lo implementan bien
El problema no es solo que no usen RAG. Es que cuando lo usan, lo hacen de forma superficial. He visto sistemas que llaman RAG a lo que en realidad es una búsqueda por palabras clave sobre un PDF mal estructurado. El resultado es casi tan poco fiable como sin RAG.
Un RAG funcional requiere varias piezas que tienen que trabajar juntas:
- Indexación semántica: los documentos se dividen en fragmentos y se convierten en vectores numéricos que capturan el significado, no solo las palabras exactas.
- Recuperación por similitud: cuando llega una pregunta, el sistema busca los fragmentos más cercanos semánticamente, aunque no compartan vocabulario exacto.
- Contexto controlado: el sistema decide cuántos fragmentos pasar al modelo y en qué orden, porque pasar demasiado o demasiado poco degrada la respuesta.
- Guardrails: mecanismos que evitan que el modelo fabrique información cuando no encuentra nada relevante en la base de conocimiento. La respuesta correcta en ese caso es "no tengo esa información", no una invención plausible.
Cómo evaluar si un chatbot realmente usa RAG
Antes de contratar cualquier solución, hay tres preguntas que filtran rápido si hay RAG real o marketing:
- ¿Puedo ver las fuentes de cada respuesta? Un sistema RAG honesto puede indicar qué fragmento de qué documento originó la respuesta. Si no puede, la recuperación es opaca o inexistente.
- ¿Qué pasa cuando pregunto algo que no está en los documentos? La respuesta correcta es una negativa clara. Si el chatbot inventa algo plausible, no hay guardrails.
- ¿Cómo se actualiza la base de conocimiento? Si la respuesta es "hay que contactar con soporte para actualizar", el sistema no está diseñado para mantenimiento real.
Cuando pruebes un chatbot que dice usar RAG, hazle esta pregunta sobre algo que definitivamente NO está en sus documentos:
"¿Cuál es vuestra política de devoluciones para pedidos internacionales con más de 90 días desde la compra?"
Si responde con detalle y confianza sin indicar que no tiene esa información, el sistema no tiene guardrails. Si dice "no encuentro esa información en mi base de conocimiento, te recomiendo contactar con el equipo", el sistema funciona como debe.
Implementarlo en una PYME sin quedar atrapado
El vendor lock-in en chatbots IA es un riesgo real. Muchas plataformas te ofrecen una solución aparentemente sencilla, pero los documentos, la configuración y el historial de conversaciones quedan en sus servidores. Si decides cambiar, empiezas desde cero.
Lo que he visto que funciona mejor para PYMEs que quieren evitar esa trampa:
- El código y los datos son del cliente, siempre. Cualquier sistema serio debería poder entregarse con acceso completo a la configuración y exportación de datos.
- Infraestructura abierta. Modelos como Claude de Anthropic o alternativas open source (Llama, Mistral), combinados con embeddings locales o de bajo coste, permiten construir RAG funcional sin depender de una plataforma propietaria.
- Prueba antes de comprometerte. Una prueba de concepto real —con tus documentos, en tu entorno— vale más que cualquier demo preparada. Si el proveedor no ofrece esto, es una señal de alerta.
En la práctica, un chatbot RAG bien configurado para una PYME no requiere infraestructura de gran empresa. Lo que sí requiere es criterio en el diseño: qué documentos indexar, cómo estructurarlos, qué tipo de preguntas va a recibir y dónde está el límite de lo que el sistema debe responder solo versus escalar a una persona.
Lo que cuesta de verdad
La implementación de un chatbot RAG para una PYME tiene costes concretos que conviene entender antes de comprometerse. Hay un coste de puesta en marcha —configuración, indexación inicial de documentos, integración con los canales— y un coste recurrente por el uso de los modelos de lenguaje y el mantenimiento de la base de conocimiento.
Por ejemplo, el servicio de chatbot RAG de Arquitecto Digital parte de un POC de 7 días por 158€, deducible del setup si decides continuar. El setup completo parte desde 529€, y la cuota mensual va desde 84€ hasta 423€ según volumen y canales activos. No es el chatbot más barato del mercado. Tampoco es Tidio.
La diferencia está en qué obtienes: RAG sobre tus documentos reales, no respuestas genéricas; memoria episódica entre conversaciones; handoff automático a humano cuando el sistema detecta que no puede resolver; y el código queda en tu infraestructura, no en la de un tercero.
Cuándo RAG no es la solución
Hay casos donde RAG no aporta valor real. Si tu negocio recibe siempre las mismas 10 preguntas y las respuestas nunca cambian, un árbol de decisión simple es más fiable y más barato. RAG tiene sentido cuando el catálogo es amplio, la información cambia con frecuencia, o las preguntas son suficientemente variadas como para que un sistema rígido falle.
Si no estás seguro de si tu caso encaja, la prueba de concepto existe exactamente para eso: para comprobarlo con datos reales antes de invertir en el setup completo.