Definición:
El fine-tuning, o ajuste fino, es un proceso de entrenamiento que adapta un modelo de inteligencia artificial previamente entrenado a una tarea, un ámbito o un comportamiento específico mediante datos adicionales.
En lugar de desarrollar un modelo desde cero, parte de sus capacidades existentes y ajusta parámetros del modelo o de componentes añadidos para adaptarlo. No equivale a escribir una instrucción ni a adjuntar un documento a una conversación.
Índice de contenidos
Del preentrenamiento al ajuste fino
El fine-tuning forma parte del aprendizaje por transferencia: aprovechar lo aprendido por un modelo y adaptarlo a otro problema. Se utiliza en áreas como visión artificial, reconocimiento de voz y procesamiento del lenguaje.
El preentrenamiento proporciona capacidades generales a partir de grandes cantidades de datos. El ajuste posterior orienta esas capacidades hacia necesidades más concretas, normalmente con menos datos y recursos que un entrenamiento completo desde cero.
En procesamiento del lenguaje, modelos como BERT extendieron el uso de este enfoque para tareas específicas. En los modelos generativos, también permite trabajar sobre el seguimiento de instrucciones, los formatos de respuesta o comportamientos especializados.
Cómo se realiza el fine-tuning
El proceso comienza definiendo qué debe mejorar respecto al modelo original. Esa necesidad determina los datos que se preparan y las pruebas que permitirán valorar el resultado.
En el ajuste supervisado, el conjunto de entrenamiento contiene entradas acompañadas de las respuestas esperadas. El modelo procesa esos ejemplos y el entrenamiento modifica los parámetros seleccionados para acercar sus resultados al comportamiento deseado.
Existen distintas formas de realizar esa adaptación:
- Ajuste completo: actualiza todos los parámetros del modelo, con mayores necesidades de memoria y procesamiento.
- Ajuste de una parte del modelo: mantiene algunos componentes sin cambios y entrena otros.
- Adaptación eficiente en parámetros: utiliza técnicas como LoRA para entrenar un conjunto reducido de parámetros adicionales, manteniendo fijos los pesos originales durante el ajuste.
LoRA permite reducir los recursos necesarios para adaptar modelos grandes. No elimina, sin embargo, la necesidad de preparar buenos datos y evaluar el comportamiento obtenido.
Para qué puede resultar útil
El fine-tuning puede ayudar cuando una tarea se repite y requiere un comportamiento que el modelo original no consigue con suficiente consistencia. Entre sus aplicaciones se encuentran las siguientes:
- Clasificación: asignar textos o imágenes a categorías definidas.
- Extracción de información: identificar campos y relaciones siguiendo unos criterios estables.
- Generación estructurada: producir respuestas con un formato o una organización específicos.
- Adaptación de estilo: seguir pautas de redacción presentes en un conjunto de ejemplos.
- Especialización: mejorar el tratamiento de terminología y tareas propias de un ámbito.
La utilidad debe comprobarse frente al modelo sin ajustar. Una mejora en una tarea concreta no implica que el modelo sea mejor en todas las demás.
Datos y evaluación del resultado
Los datos de entrenamiento deben representar la tarea real y mantener criterios coherentes. Las respuestas contradictorias, las etiquetas incorrectas o la repetición excesiva pueden enseñar patrones que no se desean.
También hay que reservar datos que no se utilicen para entrenar. Evaluar únicamente con los mismos ejemplos que ha visto el modelo puede dar una impresión engañosa de su calidad.
El sobreajuste ocurre cuando el modelo se adapta demasiado a los ejemplos de entrenamiento y responde peor ante casos nuevos. Además, una especialización puede reducir capacidades que antes funcionaban correctamente.
La evaluación debe revisar tanto la mejora buscada como los errores introducidos. El fine-tuning no garantiza exactitud ni evita por sí solo respuestas inventadas, sesgos o la reproducción de información sensible presente en los datos.
Diferencias entre fine-tuning, instrucciones y RAG
Estas técnicas actúan sobre partes distintas del sistema y pueden combinarse:
- Instrucciones o prompting: orientan la respuesta mediante el contenido del prompt, sin entrenar de nuevo el modelo.
- RAG: recupera información de fuentes externas y la incorpora al contexto de la petición.
- Fine-tuning: modifica parámetros mediante entrenamiento para adaptar el comportamiento del modelo.
Si el objetivo es consultar documentación que cambia con frecuencia, un sistema de RAG permite actualizar las fuentes sin repetir el ajuste del modelo. Si se busca mantener un comportamiento específico en muchas peticiones, puede tener sentido evaluar el fine-tuning.
Adjuntar documentos no activa automáticamente un entrenamiento. Tampoco un modelo ajustado se convierte en una base de datos que almacene y recupere fielmente cada dato utilizado.
Antes de entrenar, conviene comprobar si unas instrucciones más claras, un formato de salida definido o una mejor selección del contexto resuelven la necesidad. El ajuste fino debe responder a una mejora medible, no ser un paso obligatorio al desarrollar una aplicación de IA.