Antes de entrenar un modelo, agota las instrucciones, los ejemplos y las herramientas. El fine-tuning es útil cuando el problema es de estilo, formato o consistencia, no cuando falta información.
Tres herramientas distintas
Dar instrucciones es decirle al modelo cómo tiene que responder. RAG es darle información que no tiene. Fine-tuning es cambiar el comportamiento del modelo con ejemplos. Las tres cosas se confunden porque las tres mejoran la respuesta, pero resuelven problemas diferentes.
Si el modelo no sabe un dato, el prompt no lo va a inventar de forma fiable. Si el problema es que no sigue el formato, el RAG no lo arregla. Si el problema es que el tono no encaja, el fine-tuning puede ayudar. Elegir la herramienta correcta ahorra semanas.
Qué puede cambiar el fine-tuning
El fine-tuning puede enseñar un estilo, un formato, una clasificación o una forma de razonar. Puede hacer que el modelo responda siempre con la misma estructura, que use el vocabulario de la empresa o que distinga entre categorías que el modelo base confunde. También puede reducir la longitud del prompt, porque parte del comportamiento queda en los pesos.
Lo que no suele hacer bien es añadir conocimiento factual que cambia a menudo. Para eso está RAG. Tampoco arregla un alcance mal definido ni un proceso que nadie ha mapeado. Si los datos de entrenamiento son malos, el modelo aprende a ser malo con más confianza.
Los datos
Necesitas ejemplos representativos y correctos. No vale con generar cien respuestas con otro modelo y darlas por buenas. Los ejemplos tienen que reflejar el trabajo real, incluidas las excepciones y los casos límite. Cuanto más pequeño y específico sea el comportamiento, menos ejemplos suelen hacer falta.
Separa siempre un conjunto de evaluación que no hayas usado en el entrenamiento. Si mides con los mismos ejemplos con los que entrenaste, el modelo parecerá mejor de lo que es. El fine-tuning tiene que compararse con una línea base de instrucciones y RAG, no con la nada.
Sobreajuste y olvido
Un modelo ajustado con pocos ejemplos puede aprenderse las respuestas de memoria y fallar en cuanto cambia la pregunta. También puede perder capacidades generales que tenía antes. Por eso se prueba con casos nuevos y se compara con el modelo base en tareas que no forman parte del ajuste.
El fine-tuning no es un botón de mejorar. Es un entrenamiento. Tiene coste, tiempo y mantenimiento. Cada vez que cambian el formato o la política, puede que tengas que volver a ajustar.
Abierto o cerrado
Los proveedores cerrados ofrecen fine-tuning sobre sus modelos, con menos control pero sin operar infraestructura. Los modelos abiertos permiten elegir el método de ajuste, como LoRA o adaptadores, y ejecutar el resultado en tu infraestructura; no es una capacidad exclusiva de ellos. A cambio, asumes el entrenamiento, la evaluación y el despliegue.
Para muchas empresas, el orden correcto es: prompt, ejemplos, RAG, herramientas y, solo si hace falta, fine-tuning. El fine-tuning llega cuando ya sabes exactamente qué comportamiento quieres y tienes datos para demostrarlo.
Cuándo merece la pena
Merece la pena cuando el comportamiento es estable, se repite mucho y el prompt ya no da más de sí. Por ejemplo, clasificar incidencias con un formato muy concreto, generar respuestas con un tono muy definido o extraer datos de documentos con una estructura fija. También cuando quieres reducir coste usando un modelo más pequeño especializado.
No merece la pena cuando el problema es de información, de permisos o de proceso. Ahí el modelo no es el cuello de botella. Cambiarlo solo esconde el problema.
Un caso concreto: clasificar incidencias
Una empresa recibe miles de incidencias y quiere clasificarlas en cinco categorías. El prompt con ejemplos funciona, pero el formato falla en un porcentaje de casos y el equipo quiere más consistencia. Antes de entrenar, prueba un prompt más estricto, una salida estructurada y un conjunto de evaluación. Si el problema sigue, el fine-tuning puede ayudar.
Prepara ejemplos reales de las cinco categorías, incluidas las ambiguas. Separa una parte para evaluar. Entrena y compara con la línea base: misma suite, mismos casos. Si el modelo ajustado no mejora la clasificación o empeora en los casos raros, no lo uses. El fine-tuning no es un premio; es una herramienta más.
Sigue leyendo