Para especializar un gran modelo de lenguaje (LLM) en un dominio preciso, el enfoque clásico consiste en fine-tuner, es decir, continuar su entrenamiento con un conjunto de datos específico. Un tutorial compara este método con una solución más ligera: mantener el modelo congelado y entrenar solo un pequeño clasificador colocado encima. En una tarea de clasificación de artículos de prensa, la primera estrategia obtiene la mejor precisión, pero requiere mucho más tiempo.
- El fine-tuning con QLoRA logra mayor precisión, 87 %, pero tarda unas tres veces más.
- Los embeddings fijos con un random forest alcanzan 82 % y se entrenan mucho más rápido.
- Conviene elegir embeddings fijos si importan la rapidez y el bajo coste de cálculo, y QLoRA si la precisión es decisiva.
- Las tareas generativas suelen requerir adaptar el modelo, aunque los embeddings fijos pueden servir en usos gratuitos.
La primera estrategia se basa en LoRA (Low-Rank Adaptation), un algoritmo que congela los pesos preentrenados del modelo y les añade pequeñas matrices de adaptación entrenables. Estas matrices representan generalmente del 1 al 2 % del tamaño del modelo. El tutorial utiliza una variante cuantificada, llamada QLoRA, que mantiene el modelo en precisión de 4 bits para ahorrar memoria. La segunda estrategia, conocida como los embeddings figés, consiste en usar el LLM únicamente como extractor de características. Cada texto se transforma en un vector numérico, llamado embedding, a partir de la última capa oculta del modelo, y estos vectores sirven para entrenar un clasificador clásico: un bosque aleatorio (random forest) de 100 árboles, proveniente de la biblioteca scikit-learn.
Los experimentos se realizaron en Google Colab, con una GPU T4. El modelo utilizado es Qwen/Qwen2.5-1.5B, y el conjunto de datos es ag_news, que agrupa artículos de actualidad clasificados en cuatro categorías. Para que la comparación sea rápida, los autores trabajan con un subconjunto de 800 artículos de entrenamiento y 200 artículos de prueba.
Resultados contrastantes
Con la estrategia de embeddings fijos, la extracción de los vectores lleva 96,5 secondes, y el entrenamiento del clasificador solo 2,866 secondes. La precisión alcanza 82,0 % en el conjunto de prueba. El tutorial subraya que la mayor parte del tiempo se dedica a la extracción de características, siendo el entrenamiento del clasificador casi instantáneo.
La estrategia LoRA muestra una precisión de 87,0 %, con un entrenamiento de 300,3 secondes. El aumento de precisión tiene, por tanto, un coste: según el tutorial, todo el proceso tomó tres veces más tiempo, y esa diferencia podría ampliarse notablemente con conjuntos de datos más voluminosos.
Cuándo privilegiar una u otra
Los autores recomiendan los embeddings fijos cuando se busca un entrenamiento rápido y una carga de cálculo baja, evitando al mismo tiempo el sobreentrenamiento del modelo base. El fine-tuning con QLoRA se impone, en cambio, cuando reducir la brecha de precisión es determinante para el dominio objetivo, o cuando el modelo debe aprender matices específicos profundamente arraigados en ese dominio.
El razonamiento cambia para tareas puramente generativas, como la producción de texto o código, donde la adaptación del modelo, por ejemplo mediante fine-tuning, suele ser necesaria para obtener comportamientos especializados. El tutorial señala, sin embargo, que los embeddings fijos pueden constituir una alternativa viable para ciertos usos generativos en despliegues gratuitos, cuando el rendimiento máximo es un criterio ligeramente negociable.
