Qué es RAG: la generación aumentada por recuperación explicada para empresas
Qué es RAG (retrieval-augmented generation): cómo funciona paso a paso, cuándo supera al fine-tuning, errores típicos y cómo evaluar un sistema RAG.
Door Ingmar van Maurik · Founder & CEO, Making Moves
Respuesta corta
RAG (retrieval-augmented generation, o generación aumentada por recuperación) es una forma de hacer que un modelo de lenguaje responda a partir de sus propios documentos. Ante cada pregunta, el sistema busca primero los fragmentos relevantes, por ejemplo del manual del empleado, y se los pasa al modelo junto con la pregunta. El modelo redacta entonces una respuesta citando las fuentes. Sin volver a entrenar el modelo. Que un sistema RAG funcione bien depende sobre todo de la parte de búsqueda: ¿recupera los fragmentos correctos, y solo los que la persona que pregunta tiene permiso para ver?
Por qué existe RAG
Un modelo de lenguaje solo sabe lo que había en sus datos de entrenamiento. No conoce su política de vacaciones, no ha visto el cambio del mes pasado en la política de viajes y no puede leer su wiki interna. Si se lo pregunta igualmente, a menudo obtiene una respuesta convincente pero inventada.
RAG lo resuelve haciendo que el modelo consulte la información en lugar de "recordarla". El término procede de un artículo de investigación de 2020 y hoy es el enfoque estándar para asistentes internos y bases de conocimiento.
Cómo funciona RAG, paso a paso
1. Reunir documentos. Políticas, manuales, perfiles de puesto, preguntas frecuentes. Con metadatos: quién es el responsable, cuándo se actualizó, quién puede leerlo.
2. Chunking (fragmentación). Los documentos se dividen en partes más pequeñas, por ejemplo por párrafo o sección. Los fragmentos demasiado pequeños pierden contexto y los demasiado grandes añaden ruido.
3. Embeddings. Cada fragmento se convierte en un embedding: una larga serie de números que recoge el significado del texto. Textos con un significado parecido reciben números parecidos, aunque usen palabras distintas.
4. Búsqueda vectorial. La pregunta del usuario también se convierte en un embedding. Una base de datos vectorial encuentra los fragmentos cuyo significado está más cerca de la pregunta. A menudo se combina con la búsqueda clásica por palabras clave (búsqueda híbrida), porque la búsqueda vectorial puede pasar por alto códigos, nombres o términos exactos.
5. Reranking (reordenación). Un segundo modelo, más preciso, vuelve a puntuar los candidatos y coloca los más relevantes arriba. Solo pasan los mejores.
6. Prompt con fuentes. Los fragmentos seleccionados se incluyen en el prompt junto con la pregunta y una instrucción como: responde solo con estas fuentes y dilo con honestidad si la respuesta no está en ellas.
7. Respuesta con citas. El modelo responde e indica los fragmentos que ha usado, para que el usuario pueda comprobar de dónde sale la información.
Cuándo elegir RAG, fine-tuning o una ventana de contexto larga
|---|---|---|---|
En la práctica se suelen combinar. Pero para "que los empleados puedan consultar nuestras políticas", RAG es casi siempre el punto de partida.
Fallos típicos
Cómo evaluar un sistema RAG
Una demo con cinco preguntas dice poco. Mídalo así:
|---|---|
Vuelva a ejecutar este conjunto con cada cambio en la fragmentación, el modelo o el prompt. Así verá si un ajuste mejora de verdad.
Ejemplo de RR. HH.: un asistente de políticas
Una organización con varios miles de empleados recibe cada semana las mismas preguntas en RR. HH.: cuántos días de permiso hay por mudanza, cómo funciona la compensación por teletrabajo, qué ocurre si te pones enfermo en vacaciones. Un asistente RAG responde a partir del manual y el convenio vigentes, con un enlace al pasaje exacto.
Qué lo hace bueno: solo está indexada la última versión de cada documento, cada documento tiene un responsable, los mandos ven las políticas para mandos y el resto no, y ante la duda el asistente remite a un asesor de RR. HH. Los expedientes personales no deben estar en él.
Para reclutadores sirve igual como base de conocimiento con perfiles de puesto, guías de entrevista y criterios de selección. Cómo encaja un sistema así en la selección de personal lo explicamos en nuestro AI hiring system.
Qué preguntar a un proveedor o a un candidato
Para saber si un proveedor o un candidato entiende de verdad RAG, haga estas preguntas:
1. "¿Cómo elige el tamaño de los fragmentos y cómo prueba esa elección?" Respuesta sólida: depende de los documentos y se mide con la tasa de acierto de la recuperación en un conjunto de prueba.
2. "¿Por qué combina la búsqueda vectorial con la búsqueda por palabras clave?" Respuesta sólida: la búsqueda vectorial puede pasar por alto términos exactos como códigos o nombres.
3. "¿Cómo se asegura de que un empleado no vea documentos salariales?" Respuesta sólida: filtrado de permisos en la recuperación, vinculado a la identidad del usuario, no mediante el prompt.
4. "¿Qué ocurre cuando se actualiza una política?" Respuesta sólida: reindexación automática, eliminación de versiones antiguas y la fecha como metadato.
5. "¿Cómo sabe que el sistema ha mejorado tras un cambio?" Respuesta sólida: un conjunto de prueba fijo con mediciones de recuperación y fidelidad, además de coste y latencia.
Respuestas vagas como "el modelo es muy inteligente" son motivo para profundizar. Más información en cómo evaluar consultores de IA y cómo evaluar las competencias en IA.
Evaluar el conocimiento de IA de forma estructurada
La evaluación de competencias en IA de Making Moves comprueba, entre otras cosas, si alguien sabe diseñar y evaluar sistemas RAG: preguntas de conocimiento, escenarios de decisión sobre recuperación y permisos, y un caso práctico en el que se permite usar IA. La evaluación está en fase piloto y todavía no es una prueba baremada. Úsela como información estructurada junto con entrevistas y referencias.
Preguntas frecuentes
¿Qué significa RAG?
RAG son las siglas de retrieval-augmented generation: generar texto (generation) apoyándose en información recuperada (retrieval). El modelo busca primero en sus documentos y después responde.
¿RAG evita las alucinaciones?
Las reduce, pero no las elimina del todo. Si se recupera el fragmento equivocado o el modelo resume mal la fuente, sigue habiendo errores. Por eso hacen falta citas y evaluación.
¿Es seguro RAG para documentos confidenciales de RR. HH.?
Solo si los permisos se filtran en la recuperación y sabe dónde se procesan los datos. Tenga en cuenta el RGPD: no indexe expedientes de personal sin una base jurídica clara y reglas de acceso.
¿Tenemos que entrenar un modelo propio?
No. RAG funciona con modelos existentes. La inversión va sobre todo a buenos documentos, calidad de búsqueda, permisos y evaluación.
Resumen
¿Quiere comprobar si candidatos o proveedores dominan de verdad RAG? Consulte la evaluación de competencias en IA o contáctenos.