Un modelo sabe lo que aprendió durante el entrenamiento. No sabe lo que cambió ayer en tu empresa. RAG le da acceso a esa información sin reentrenarlo.
Qué problema resuelve
Un modelo de lenguaje tiene una fecha de corte. Lo que pasó después no lo sabe. Tampoco sabe lo que hay en tu CRM, en tus contratos o en tus manuales internos. RAG, o generación aumentada por recuperación, busca esa información en el momento de la respuesta y se la pasa al modelo como contexto.
La idea es sencilla. En lugar de meter todo en el prompt, recuperas solo los fragmentos relevantes. El modelo responde con esa información delante. Así puedes actualizar el contenido sin reentrenar y mantener la respuesta ligada a una fuente.
El pipeline
Un sistema RAG tiene varias piezas. Primero, ingesta: leer documentos, páginas, correos o bases de datos. Después, trocear el contenido en fragmentos manejables. Luego, convertir cada fragmento en un vector y guardarlo en un índice. En la consulta, el sistema recupera varios fragmentos parecidos, los reordena si hay un reordenador y envía los mejores al modelo junto con la pregunta.
Cada pieza puede fallar. Un PDF mal procesado pierde tablas. Un trozo demasiado grande mezcla temas. Un trozo demasiado pequeño pierde contexto. Un índice desactualizado devuelve información vieja. La calidad depende de tres decisiones comprobables: cómo se trocea, qué metadatos se guardan y cómo se filtran los permisos.
Troceado
El troceado no es cortar cada mil caracteres. Es separar por unidades con sentido: un artículo, una sección, una ficha de producto, una cláusula. Si el fragmento no se entiende solo, el modelo tampoco lo va a entender. Añade metadatos: título, fecha, fuente, versión, permisos.
También conviene guardar la relación entre fragmentos. Un trozo puede necesitar el anterior o el siguiente para tener sentido. Una buena recuperación no devuelve un fragmento suelto: devuelve el contexto mínimo necesario para interpretarlo.
Permisos y metadatos
En una empresa, no todo el mundo puede ver todo. El RAG tiene que filtrar por permisos antes de recuperar, no después de generar. Si un fragmento confidencial entra en el contexto de un usuario que no debería verlo, ya has filtrado tarde.
Los metadatos también sirven para la calidad. Filtrar por fecha, idioma, país o tipo de documento reduce el ruido. Una búsqueda que devuelve el contrato de otro cliente porque se parece mucho es un fallo de permisos, no de relevancia.
Búsqueda híbrida y reordenación
La búsqueda vectorial captura similitud semántica, pero puede fallar con nombres propios, referencias o códigos que no aparecieron en el entrenamiento. La búsqueda por palabras clave acierta en esos casos. Combinar las dos suele dar mejores resultados que elegir una sola. Después, un reordenador los ordena por relevancia real.
La reordenación añade latencia y coste, pero mejora la precisión cuando hay muchos documentos parecidos. Si tu corpus es pequeño y limpio, puede que no lo necesites. Si tienes miles de documentos solapados, probablemente sí.
Cómo evaluarlo
Evalúa la recuperación y la respuesta por separado. ¿El fragmento correcto estaba entre los recuperados? ¿El modelo respondió usando ese fragmento? ¿Inventó algo que no estaba? ¿Citó la fuente correcta? Las métricas de recuperación te dicen si el problema está en la búsqueda. Las de respuesta te dicen si está en la generación.
Construye un conjunto de preguntas con su respuesta y su fuente. Incluye preguntas fáciles, preguntas que necesitan varios documentos y preguntas que no tienen respuesta. Un sistema RAG que responde «no lo sé» cuando no hay información es más fiable que uno que rellena huecos.
Cuándo no usar RAG
Si la información cabe en el prompt y cambia poco, no necesitas RAG. Si la pregunta es un cálculo exacto, una consulta SQL o una operación sobre datos estructurados, una herramienta es mejor. Si el problema es que el modelo no sigue el formato, quizá necesites dar instrucciones o fine-tuning, no recuperación.
RAG no sustituye a una buena base de datos ni a un buen proceso de documentación. Si tus documentos están duplicados, desactualizados o mal etiquetados, el RAG va a recuperar el desorden más rápido.
Sigue leyendo