Todo producto de chat con IA dice que puedes entrenarlo con tu propio contenido. La palabra está mal, y vale la pena ser puntilloso con esto, porque lo que la gente espera de "entrenar" no es lo que recibe.
En el modelo no cambia nada cuando agregas un documento. Tu texto se indexa, y el modelo lee unos fragmentos de él en el momento en que alguien pregunta.
Qué hace esperar la palabra
La cuarta línea es la que importa comercialmente. Los equipos presupuestan un reentrenamiento que nunca ocurre o, peor, evitan actualizar un documento porque creen que sale caro.
Las tres formas de cargar contenido
Son solo tres, y elegir la equivocada para una fuente dada es el error de configuración más común.
Elijas la que elijas, después pasa lo mismo: el texto se corta en fragmentos y cada uno se convierte en una lista de números.1 Esa lista es lo que se busca cuando llega una pregunta.
Qué significaría entrenar de verdad
Existe una técnica real que la palabra describe. El fine-tuning ajusta los pesos del modelo con ejemplos que le das, y cambia cómo escribe: su formato, su registro, la forma de su salida.
Es la herramienta equivocada para los hechos. Un modelo con fine-tuning no puede decirte de qué página salió una respuesta, y un precio que cambia implica pagar para entrenar otra vez. La recuperación mantiene los hechos afuera del modelo, donde se pueden editar, borrar y citar.
welcomeai.dev¿Qué es RAG? La generación aumentada por recuperación, explicadaQué cambia cuando dejas de usar la palabra
Cuatro consecuencias prácticas, y son la razón por la que vale discutir la distinción.
- Una edición rige desde la próxima pregunta. Sin reentrenar, sin esperar, sin una versión del asistente que todavía cree el precio del trimestre pasado.
- Borrar una fuente la elimina. El fragmento deja de ser recuperable, cosa que no puedes decir de nada horneado dentro de un modelo.
- Una respuesta mala es rastreable. Lees el fragmento que la sostiene y ves si el documento estaba mal o si falló la recuperación.
- Agregar contenido es barato y responder no. Indexar corre a una fracción chica del precio por token de responder, así que el instinto de racionar cargas está al revés.
Los fragmentos se copiaron al indexar. Sacar el PDF de tu disco no cambia nada hasta que borres la fuente en la base de conocimiento y el índice se reconstruya.
Por dónde empezar
Conecta lo que ya publicas, sube solo lo que no vive en ningún otro lado, y escribe entradas de Q&A para el puñado de preguntas donde la redacción no es tuya para improvisar. Después lee las respuestas antes que nadie.
welcomeai.devBases de conocimiento: fuentes, indexación y para qué sirve cada tipoPreguntas frecuentes
Si te llevas una sola cosa del vocabulario: no lo estás enseñando, le estás dando algo para leer. Todo lo demás sobre cómo operarlo se desprende de ahí.
