Qué es RAG: cómo funciona y por qué decide qué cita la IA

RAG (generación aumentada por recuperación) es la técnica que hace que un modelo de lenguaje busque información en fuentes externas antes de responder, en vez de contestar solo con lo que aprendió en su entrenamiento. Si alguna vez le preguntaste algo a ChatGPT y la respuesta vino con tres links al lado (y ninguno era tuyo), ya viste un sistema RAG funcionando.

La mayoría de las guías sobre RAG están escritas para quien va a construir un chatbot con los documentos de su empresa, y está bien, porque ahí nació la técnica. Pero hay un segundo uso que a un equipo de marketing le importa bastante más: ChatGPT, Perplexity y Google hacen generación aumentada por recuperación sobre la web cada vez que responden con fuentes. Mi lectura es simple: en esos buscadores, la visibilidad de tu marca se juega primero en la recuperación. Si tu página no aparece en lo que la IA busca, o no tiene un pasaje que se entienda solo, el LLM nunca la lee.

Primero cómo funciona la técnica, después qué cambia para tu sitio.

¿Qué es RAG?

RAG viene del inglés retrieval-augmented generation, una técnica de inteligencia artificial que en español se traduce como generación aumentada por recuperación. El nombre describe bastante bien lo que pasa: el sistema recupera información de una base de conocimiento, la agrega a la pregunta (eso es lo "aumentada") y recién ahí el modelo genera la respuesta.

La sigla la acuñó un equipo de Facebook AI Research (hoy Meta) liderado por Patrick Lewis en 2020, en el paper Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. La idea de fondo era resolver algo que cualquier usuario de un LLM ya notó: estos modelos saben mucho, pero no tienen información de lo que pasó ayer ni de lo que dice el manual interno de tu empresa.

La analogía que más me gusta es la de una prueba con libro abierto. Un modelo sin RAG responde de memoria, con sus datos de entrenamiento, y cuando no se acuerda, improvisa con mucha seguridad. Con RAG tiene el libro abierto en la página correcta, y su pega pasa a ser leer bien y responder con lo que está ahí.

¿Por qué un LLM necesita RAG?

Un LLM aprende de una cantidad enorme de texto hasta una fecha de corte. Después de esa fecha no sabe nada nuevo, y tampoco conoce los datos privados de tu empresa, tu catálogo de hoy ni la política de devoluciones que cambiaste el martes.

El problema es que los modelos no avisan cuando no saben. Generan texto que suena plausible, y a eso le llamamos alucinación. AWS lo explica con un empleado nuevo demasiado entusiasta que responde todas las preguntas con absoluta confianza, aunque no tenga idea (todos conocimos a alguien así).

Las alternativas obvias tienen sus límites. Pegar toda la documentación en el prompt funciona con poco material, pero los modelos tienen una ventana de contexto limitada y, con demasiada información, la respuesta sale más lenta, más cara y con menos precisión. Volver a entrenar con tus datos tampoco escala, porque habría que repetirlo cada vez que cambia algo. RAG resuelve esto entregándole al modelo la información correcta en el momento de responder, sin tocar los datos de entrenamiento.

¿Cómo funciona RAG paso a paso?

Un sistema RAG trabaja en dos fases. La primera, la indexación, ocurre antes de que alguien pregunte nada. La segunda ocurre cada vez que llega una consulta.

Fase 1: preparar la base de conocimiento

1. Cargar los documentos. Es el material externo que el modelo no trae: PDFs, fichas de producto, páginas web, tickets de soporte o bases de datos.
2. Dividirlos en fragmentos. Recuperar un libro entero no sirve de mucho, así que el contenido se corta en chunks de unos cientos de palabras. Si el fragmento es muy grande, mezcla temas; si es muy chico, pierde el sentido.
3. Convertir cada fragmento en números. Un embedding es una lista de números que representa el significado de un texto, y esos vectores permiten encontrar textos que dicen lo mismo con otras palabras.
4. Guardarlos en una base de datos vectorial, como Pinecone o ChromaDB, que almacena los embeddings y permite buscar los más parecidos.

Fase 2: responder una pregunta

1. La pregunta del usuario se convierte en un vector con el mismo modelo de embeddings.
2. El recuperador busca la información relevante, que son los fragmentos más cercanos. Es una búsqueda semántica, por significado. Muchos sistemas la combinan con una búsqueda por palabras clave, porque los nombres propios, los códigos de producto y los números se pierden con facilidad cuando solo se busca por significado.
3. Se reordenan los resultados (re-ranking) y se quedan los mejores, por ejemplo los cinco más útiles.
4. Se arma un prompt aumentado con la pregunta original, lo recuperado (el contexto) y una instrucción del tipo "responde solo con esta información y cita la fuente".
5. El LLM genera la respuesta y, si el sistema está diseñado para eso, la entrega con citas.

Todo esto pasa en pocos segundos. Y fíjate en un detalle que vuelve más abajo: el LLM solo ve lo que ganó en el paso 2. Si algo no se recuperó, el modelo contesta sin eso.

¿Qué componentes tiene un sistema de generación aumentada por recuperación?

IBM lo ordena en cuatro piezas:

• La base de conocimiento: el repositorio con los documentos ya fragmentados y convertidos en vectores.
• El recuperador: el componente que busca la información relevante para cada pregunta.
• La capa de integración: coordina el flujo y arma el prompt que recibe el generador.
• El generador: el LLM que redacta la respuesta final, como GPT, Claude o Llama.

¿Qué beneficios tiene RAG?

• No obliga a volver a entrenar. Actualizar documentos es muchísimo más barato que reentrenar.
• Información actual. El modelo responde con los datos que la fuente tiene hoy, aunque su entrenamiento haya terminado hace un año.
• Respuestas con citas. El usuario puede ir a la fuente y revisar si lo que dijo calza, algo que mejora la confianza en la herramienta.
• Menos alucinaciones. Al anclar las respuestas en documentos reales, los modelos inventan menos y ganan precisión (menos tampoco significa cero, ya vamos a eso).
• Control. Quien administra el sistema decide qué fuentes entran, cuáles salen y qué usuario puede ver cada documento. Los datos confidenciales quedan en una base separada y no se mezclan con el entrenamiento.

¿Para qué se usa RAG en empresas?

Los usos más comunes que aparecen en las guías de IBM, AWS y en los proyectos que veo:

• Atención al cliente: un asistente que responde a cada usuario con los manuales y las preguntas frecuentes vigentes.
• Ecommerce: consultar stock, características o precios actualizados en las bases de datos del catálogo antes de recomendar un producto.
• Banca, seguros y legal: responder con la política de crédito, la póliza o la normativa del momento, donde los datos viejos salen caros.
• Buscadores internos: que un equipo encuentre en segundos lo que está enterrado en los documentos de la intranet.
• Buscadores con IA: ChatGPT, Perplexity y Google usan la misma lógica sobre la web. Este caso le toca directo a tu sitio y lo veo en detalle más abajo.

¿Qué diferencia hay entre RAG y fine-tuning?

Las dos técnicas buscan que los modelos funcionen mejor en un tema específico, pero lo hacen de formas distintas:

No son excluyentes: el fine-tuning ajusta los pesos para enseñarle al modelo a comportarse y RAG le pasa el dato del día.

¿Qué limitaciones tiene RAG?

• La calidad depende de lo que se recupera. Si el recuperador no trae información relevante, o trae un documento viejo o con datos equivocados, el modelo responde con eso y con la misma seguridad de siempre.
• RAG reduce la alucinación, pero no la elimina. Los modelos todavía pueden mezclar fragmentos o conectar cifras que no tenían relación.
• Fragmentos mal cortados. Un párrafo que depende del anterior para tener sentido llega al generador sin contexto.
• Latencia y costo. Cada pregunta suma una búsqueda, y mantener el índice al día es una pega continua.
• Privacidad. Si la base de conocimiento tiene datos de clientes, hay que controlar quién accede a qué documentos.

La primera limitación es la que más se nota desde afuera. En un estudio que hice para Previsible con 500 prompts, cerca del 78% del contenido citado en búsquedas comerciales se había publicado o actualizado en los seis meses anteriores. En esa muestra pesó mucho lo reciente, así que una página con datos de 2023 probablemente compite en desventaja, aunque haya sido la mejor de su tema.

¿Cómo usan RAG ChatGPT, Perplexity y Google?

Un buscador con IA es un sistema de generación aumentada por recuperación donde los datos externos son las páginas de la web y la base de conocimiento es un índice. Cambia la escala, pero los pasos son los mismos: recuperar páginas, extraer pasajes, armar el contexto con la información de varias fuentes y generar una respuesta con citas.

En Google, la documentación de Search Central dice que AI Overviews y el Modo IA pueden usar una técnica de fan-out, que lanza varias búsquedas relacionadas sobre subtemas antes de responder. Para aparecer como enlace, la página tiene que estar indexada y ser apta para mostrarse con snippet, y Google aclara que no hay requisitos técnicos adicionales. El Modo IA lleva esa lógica más lejos con muchas sub-búsquedas en paralelo.

En ChatGPT, la búsqueda puede compartir consultas con proveedores como Bing, y OpenAI usa su rastreador OAI-SearchBot para mostrar sitios en las respuestas de ChatGPT; un sitio que lo bloquea queda fuera, según su documentación de bots. Además, ChatGPT ya tiene un índice de búsqueda propio. Perplexity, por su parte, muestra sus fuentes junto a lo que contesta.

Dos estudios de Ahrefs ponen datos sobre esto. El 76% de las páginas citadas en AI Overviews está en el top 10 de Google para esa búsqueda, según un análisis de 1,9 millones de citas. Pero solo el 12% de las URLs que citan ChatGPT, Gemini y Copilot aparece en el top 10 para el prompt original (en Perplexity, el 28,6%), según otro estudio con 15.000 prompts. Mi lectura de esa diferencia es el fan-out: el sistema busca variantes de lo que escribiste, a veces en otro idioma, como conté en el artículo sobre las fan-out queries de ChatGPT.

¿Qué significa RAG para el SEO y la visibilidad de una marca?

Si el LLM solo lee lo que se recuperó, la pregunta útil para una marca es qué necesita su página para ganar esa recuperación. Esto es lo que yo revisaría:

1. Que los bots puedan entrar y leer la información. Si tu robots.txt bloquea a OAI-SearchBot, ChatGPT no te puede mostrar (lo expliqué en la guía de robots.txt). Y si el contenido importante aparece solo después de ejecutar JavaScript o dentro de acordeones, varios rastreadores de IA no lo ven, porque la mayoría lee el HTML que entrega el servidor.
2. Estar indexado y rankear en las sub-búsquedas. Para AI Overviews, el índice de Google sigue siendo la puerta de entrada. Pregúntate qué buscaría el sistema para armar la respuesta (precio, comparación, requisitos, opiniones) y si tienes una página que gane en cada una.
3. Pasajes que se entienden solos. La IA trabaja con pasajes, así que una sección que dice "como vimos arriba" llega sin contexto. En un análisis direccional que hicimos en Previsible sobre 5.000 respuestas de IA, las páginas citadas tenían un encabezado cada 100 a 200 palabras, y las que casi no aparecían, uno cada 400 o más. El 58% usaba encabezados en forma de pregunta.
4. Datos concretos y al día. Los datos con fecha y fuente son fáciles de extraer y de citar. Un párrafo de opinión genérica tiene miles de competidores parecidos en la web.
5. Medir la recuperación por separado. Revisa si te citan, en qué preguntas y con qué página, con un panel fijo de prompts (en esta guía explico cómo medir la visibilidad en LLMs).

Ninguna de estas cosas garantiza una cita. Lo que sí hacen es sacarte de la lista de páginas que la IA no puede recuperar, que ya es bastante.

Preguntas frecuentes

¿RAG y LLM son lo mismo?

No. El LLM es el modelo que genera texto. RAG es la arquitectura que le agrega un paso de recuperación antes de generar. Puedes tener un LLM sin RAG, pero no un RAG sin un modelo de lenguaje.

¿RAG es lo mismo que la búsqueda semántica?

La búsqueda semántica es una pieza de RAG: el método con que se encuentran los fragmentos por su significado. RAG suma lo que viene después, que es pasarle esa información al LLM para que redacte.

¿Se puede optimizar un sitio para RAG?

Se puede hacer que tu contenido sea fácil de recuperar y de citar: accesible para los bots, indexado, con secciones claras y datos verificables. Lo que no se puede controlar es qué fuentes elige el modelo al final.

Lo que haría esta semana

Toma las cinco preguntas que tus clientes hacen antes de comprar y escríbelas en ChatGPT, Perplexity y Google. Anota qué páginas se citan en cada respuesta, con qué datos, y abre esas páginas. Después abre la tuya para la misma pregunta y busca el pasaje que la IA podría haber usado: si no lo encuentras en menos de diez segundos, probablemente el recuperador tampoco.