Pour spécialiser un grand modèle de langage (LLM) sur un domaine précis, l’approche classique consiste à le fine-tuner, c’est-à-dire à poursuivre son entraînement sur un jeu de données spécifique. Un tutoriel compare cette méthode à une solution plus légère : garder le modèle figé et n’entraîner qu’un petit classifieur placé au-dessus. Sur une tâche de classification d’articles de presse, la première stratégie obtient la meilleure précision, mais elle demande beaucoup plus de temps.
- Les embeddings figés entraînent vite et atteignent 82 % de précision.
- LoRA gagne en précision, à 87 %, mais prend environ trois fois plus de temps.
- Les embeddings figés conviennent si la rapidité et la faible charge de calcul priment.
- Le fine-tuning s’impose si la précision est décisive ou si la tâche est générative.
La première stratégie repose sur LoRA (Low-Rank Adaptation), un algorithme qui gèle les poids pré-entraînés du modèle et y ajoute de petites matrices d’adaptation entraînables. Ces matrices représentent généralement 1 à 2 % de la taille du modèle. Le tutoriel utilise une variante quantifiée, dite QLoRA, qui maintient le modèle en précision 4 bits pour économiser la mémoire. La seconde stratégie, dite des embeddings figés, consiste à utiliser le LLM uniquement comme extracteur de caractéristiques. Chaque texte est transformé en un vecteur numérique, appelé embedding, à partir de la dernière couche cachée du modèle, puis ces vecteurs servent à entraîner un classifieur classique : une forêt aléatoire (random forest) de 100 arbres, issue de la bibliothèque scikit-learn.
Les expériences ont été menées sur Google Colab, avec un GPU T4. Le modèle utilisé est Qwen/Qwen2.5-1.5B, et le jeu de données est ag_news, qui regroupe des articles d’actualité classés en quatre catégories. Pour que la comparaison reste rapide, les auteurs travaillent sur un sous-ensemble de 800 articles d’entraînement et de 200 articles de test.
Des résultats contrastés
Avec la stratégie des embeddings figés, l’extraction des vecteurs prend 96,5 secondes, et l’entraînement du classifieur seulement 2,866 secondes. La précision atteint 82,0 % sur le jeu de test. Le tutoriel souligne que l’essentiel du temps est consacré à l’extraction des caractéristiques, l’entraînement du classifieur étant presque instantané.
La stratégie LoRA affiche une précision de 87,0 %, pour un entraînement de 300,3 secondes. Le gain de précision a donc un coût : selon le tutoriel, l’ensemble du processus a pris trois fois plus de temps, et cet écart pourrait devenir nettement plus marqué avec des jeux de données plus volumineux.
Quand privilégier l’une ou l’autre
Les auteurs recommandent les embeddings figés lorsque l’on recherche un entraînement rapide et une faible charge de calcul, tout en évitant le sur-apprentissage du modèle de base. Le fine-tuning avec QLoRA s’impose en revanche lorsque réduire l’écart de précision est déterminant pour le domaine visé, ou lorsque le modèle doit apprendre des nuances spécifiques profondément ancrées dans ce domaine.
Le raisonnement change pour les tâches purement génératives, comme la production de texte ou de code, où l’adaptation du modèle, par exemple par fine-tuning, est généralement nécessaire pour obtenir des comportements spécialisés. Le tutoriel note toutefois que les embeddings figés peuvent constituer une alternative viable pour certains usages génératifs dans des déploiements gratuits, lorsque la performance maximale est un critère légèrement négociable.
