Buscar el fragmento correcto y dárselo al modelo para que responda con él: eso es todo. Funciona cuando los documentos están limpios, tienen una sola versión y llevan fecha; y falla, casi siempre, por lo que hay antes del montaje.
La petición llega siempre con las mismas palabras: «quiero un ChatGPT que sepa de mis cosas». Detrás hay un problema real y muy concreto: la información de la empresa existe, pero encontrarla cuesta veinte minutos y la respuesta depende de a quién preguntes.
La técnica que resuelve esto tiene un acrónimo, RAG, y una idea de una sola frase. Voy a contarla sin el acrónimo, porque el acrónimo es lo único que no importa.
La idea, en una frase
Cuando alguien pregunta algo, el sistema busca primero en tus documentos los tres o cuatro fragmentos que más se parecen a la pregunta, y luego le pide al modelo que responda usando sólo esos fragmentos. Eso es todo. El modelo no «aprende» tus documentos: los lee en el momento, como quien consulta una ficha antes de contestar el teléfono.
Esto tiene dos consecuencias que conviene entender antes de decidir nada. La primera es buena: puedes cambiar un documento por la mañana y la respuesta cambia por la tarde, sin reentrenar nada. La segunda es la que duele: si la búsqueda trae el fragmento equivocado, el modelo redactará una respuesta perfecta y equivocada.
«El modelo no se equivoca por falta de inteligencia: se equivoca porque le has dado el papel que no era.»
Cuándo merece la pena y cuándo no
Merece la pena cuando hay mucha documentación, se consulta a menudo y las preguntas son variadas. Los tres casos donde lo he visto rendir mejor: soporte interno sobre producto, condiciones y procedimientos que cambian, y documentación técnica extensa.
SITUACIÓN | QUÉ HARÍA |
|---|---|
Veinte preguntas que se repiten siempre | Una página de respuestas y un buscador normal |
Cinco documentos de dos páginas | Pegarlos en el contexto y ya está |
Cientos de documentos y preguntas variadas | Búsqueda de fragmentos y respuesta con fuente |
Documentos con versiones contradictorias | Nada, hasta resolver cuál es la buena |
Datos en tablas y cifras exactas | Consulta directa a la base, no búsqueda semántica |
La última fila es un error muy común. Para «cuántas unidades vendimos en marzo» no quieres un fragmento parecido: quieres el número. Eso es una consulta a una base de datos, y mezclar las dos cosas en el mismo sistema produce respuestas que suenan bien y no cuadran.
El 80 % del trabajo: ordenar antes
En todos los proyectos de este tipo que he hecho, la parte técnica ha sido entre uno y tres días. El resto han sido semanas de una tarea que nadie quiere firmar: decidir qué documentos entran, cuál es la versión buena y quién manda cuando dos se contradicen.
- Inventario: lista de documentos con dueño, fecha y ubicación real. Sin esto no se empieza.
- Una sola versión buena por asunto. Las demás se archivan fuera del alcance del sistema.
- Fecha visible en cada documento, y una regla de caducidad: lo que lleva dos años sin revisar se marca.
- Trocear con cabeza: por apartados con su título, no por número de caracteres a ciegas.
- Metadatos mínimos en cada fragmento: documento de origen, apartado, fecha y a quién aplica.
El troceado es donde más se pierde calidad en silencio. Cortar cada mil caracteres parte tablas por la mitad y separa una condición de su excepción. Cortar por apartados, conservando el título en cada trozo, mejora las respuestas más que cambiar de modelo.
LO QUE NO PUEDE FALTAR >Cada respuesta debe citar el documento y el apartado del que sale, con enlace. Sin cita, nadie puede verificar nada y el sistema deja de usarse en cuanto falla una vez.
El montaje, por encima
Las piezas son cuatro y llevan años siendo las mismas: algo que convierte los fragmentos en vectores, un sitio donde guardarlos, una búsqueda que combina similitud con filtros por metadatos, y el modelo que redacta con esos fragmentos y sus instrucciones.
- Filtra siempre por metadatos antes de buscar por similitud: recorta el ruido a la mitad.
- Recupera de seis a diez fragmentos y quédate con los tres o cuatro mejores tras reordenarlos.
- Instrucción explícita: si los fragmentos no contienen la respuesta, hay que decir que no se sabe.
- Guarda cada consulta con los fragmentos usados. Es la única forma de saber por qué respondió eso.
Sobre la instrucción de la tercera línea: es la que separa un sistema fiable de uno simpático. Un buen sistema de consulta debe responder «esto no está en la documentación» varias veces al día, y hay que avisar al equipo de que eso es un acierto, no un fallo.
Cómo saber si responde bien
Con treinta preguntas escritas antes de montar nada, respondidas por una persona que sepa. Ese es tu examen. Después de cada cambio —troceado distinto, otro modelo, otro número de fragmentos— se vuelve a pasar el examen y se comparan las respuestas.
Sin ese examen, la evaluación es «a mí me ha parecido que ahora va mejor», y con eso se han tirado muchas semanas. Treinta preguntas y una tabla con tres columnas: correcta, incompleta, inventada. La tercera columna debe estar a cero antes de abrirlo a nadie.
«Un sistema que no sabe decir «no lo sé» no es un asistente: es un generador de excusas plausibles.»
Preguntas que me hacen siempre
¿Necesito entrenar un modelo con mis datos?
Casi nunca. Buscar y pasar fragmentos es más barato, se actualiza al instante y permite citar la fuente. El ajuste fino sirve para el estilo o para formatos muy específicos, no para que el modelo sepa cosas.
¿Dónde acaban mis documentos?
Depende del proveedor que elijas para los vectores y para el modelo. Se decide antes: qué documentos entran, si se puede desactivar el entrenamiento con esos datos y si hace falta alojarlo en Europa o en tu propio servidor.
¿Cuánto cuesta?
En herramientas, para un volumen medio de consultas internas, decenas de euros al mes. El coste real es el trabajo de ordenar los documentos, que en mis proyectos ha ido de dos a seis semanas de dedicación parcial de alguien de la casa.
¿Y si mis documentos son PDF escaneados?
Hay que pasarlos por reconocimiento de texto y revisar el resultado, sobre todo tablas y sellos. Un PDF escaneado mal reconocido produce respuestas erróneas con total aplomo.
¿Puedo empezar pequeño?
Es lo que recomiendo: un solo asunto, cincuenta documentos limpios, treinta preguntas de examen y dos semanas de uso real con cinco personas antes de ampliar.
Romeo Octav Chiritoiu
Formador y consultor en inteligencia artificial aplicada, en Madrid. Trabajo con webs, servidores y automatización desde 2007 y los últimos años los he dedicado a montar agentes y flujos que aguantan. Cofundador de la academia IA Lovers.