RAG vs fine-tuning: cuándo usar cada uno en tu chatbot

Cada dos semanas alguien nos llama preguntando cuánto le costaría "entrenar una IA con los datos de mi empresa". Casi siempre la respuesta correcta es: probablemente no necesitas entrenarla, necesitas que consulte tus datos. Y el ahorro, de un enfoque al otro, es de cinco ceros.

En el mundo de los chatbots y asistentes con IA, hay dos grandes caminos: RAG y fine-tuning. Muchas empresas confunden los dos, y las agencias que se mueven en aguas turbias cobran fine-tuning carísimo cuando al cliente le valía RAG. Aquí vamos a poner orden, sin entrar en cómo se implementa cada cosa, pero sí en para qué sirve cada una.

Qué hace cada enfoque, en lenguaje humano

El fine-tuning es enseñar a la IA cosas nuevas "a fondo": se coge un modelo base y se le entrena con tus datos hasta que los integra como parte de su manera de razonar. Es caro, es lento y, hecho mal, estropea el modelo. Hecho bien es potente — pero solo tiene sentido en casos muy concretos.

RAG — retrieval-augmented generation — es otra cosa. Se le deja el modelo como está, pero se le da acceso a tus datos en tiempo real, cada vez que le preguntan algo. Busca en tus documentos, recoge lo relevante y responde. Es como si en vez de enseñarle un libro de memoria, le dieras una biblioteca donde puede consultar cuando lo necesite.

La analogía que usamos con clientes: fine-tuning es contratar a un empleado nuevo y formarlo desde cero durante un año. RAG es darle a un empleado senior las llaves del archivo de la empresa. En la mayoría de situaciones de PYME, lo segundo es más rápido, más barato y mejor.

Tres preguntas antes de elegir

Cuando un cliente nos plantea un chatbot, hacemos tres preguntas. Las respuestas deciden qué camino tomar.

¿Los datos cambian con frecuencia? Si tu catálogo de productos, tus precios, tu stock o tus contenidos se actualizan cada semana, RAG es el único camino razonable. Fine-tuning cada semana es económicamente inviable. Un restaurante cambia la carta, un e-commerce cambia stock, una consultora añade casos cada mes — todo eso grita RAG.

¿El chatbot tiene que adoptar un tono o estilo muy particular? Aquí el fine-tuning empieza a tener sentido. Si necesitas que el bot responda exactamente como tu marca habla — con tu léxico, tus giros, tu registro — y eso es crítico, fine-tuning puede ayudar. Pero ojo: muchas veces se consigue el mismo efecto con un buen system prompt y RAG, al 5% del coste.

¿El volumen de consultas justifica el coste fijo? El fine-tuning tiene sentido económico cuando manejas cientos de miles de consultas al mes. Por debajo, prácticamente nunca. Una PYME con trescientas consultas al mes haciendo fine-tuning es como comprarse un camión para ir a por el pan.

El error más caro que vemos

Empresas pequeñas que pagan veinte mil euros a una consultora por un "entrenamiento personalizado" de IA, cuando lo que necesitaban era un RAG conectado a su base de documentos, que cuesta una fracción y da un resultado equivalente o mejor.

El error suele venir por marketing: "fine-tuning" suena más sofisticado. RAG suena a acrónimo aburrido. Pero la sofisticación no es un KPI, los resultados sí. Y la relación calidad/precio de RAG, para el 90% de los casos de negocio típico (retailers, restaurantes, hoteles, despachos profesionales, webs de servicios), es imbatible.

Por qué recomendamos RAG casi siempre

Cuando trabajamos con chatbots para PYMES y negocios locales, RAG gana por goleada. Motivos concretos:

Actualización automática: si cambia tu carta, tu catálogo, tu horario, el bot lo sabe al día siguiente — sin reentrenar nada.

Trazabilidad: cada respuesta del bot puede citar la fuente exacta dentro de tus datos. Esto es crítico en sectores regulados y, en general, da confianza al cliente que pregunta.

Coste predecible: pagas por consulta, no tienes un coste fijo alto de entrenamiento. Eso permite empezar pequeño y escalar.

Velocidad de puesta en marcha: un RAG decente se levanta en días, no en meses.

Cuándo fine-tuning sí tiene sentido

Para ser justos: hay casos. Bots de atención al cliente de grandes empresas con voz de marca muy marcada. Asistentes especializados en sectores técnicos donde el vocabulario es crítico (legal, médico, financiero). Productos donde el modelo se vende como propio de la empresa y la latencia tiene que ser mínima. Todo eso puede justificar fine-tuning, o un enfoque mixto.

Para una PYME o un negocio local, casi nunca es el camino. Y si alguien te lo recomienda sin antes haber descartado RAG, probablemente está vendiendo el producto más caro, no la solución más adecuada.

En A-digital llevamos años montando chatbots con RAG para clientes en Menorca y en el resto de España. Desde bots para restaurantes de la isla hasta asistentes de soporte para e-commerces que venden a toda Europa. La conclusión, después de muchos proyectos, es que el 95% de lo que una PYME necesita de un chatbot se resuelve bien con RAG. Y si el caso requiere fine-tuning, te lo decimos. Y te explicamos por qué.