Для специализации большой языковой модели (LLM) в конкретной области классический подход заключается в её fine-tuning, то есть продолжении обучения на специфическом наборе данных. В руководстве этот метод сравнивается с более лёгким решением: оставить модель замороженной и обучить только небольшой классификатор поверх неё. В задаче классификации новостных статей первая стратегия показывает наилучшую точность, но требует значительно больше времени.
Первая стратегия основана на LoRA (Low-Rank Adaptation) — алгоритме, который замораживает предобученные веса модели и добавляет к ним небольшие обучаемые адаптационные матрицы. Эти матрицы обычно составляют 1–2 % от размера модели. В руководстве используется квантизированный вариант, QLoRA, который хранит модель в 4-битной точности для экономии памяти. Вторая стратегия, фиксированных эмбеддингов, предполагает использование LLM исключительно как экстрактора признаков. Каждый текст преобразуется в числовой вектор (эмбеддинг) из последнего скрытого слоя модели, затем эти векторы используются для обучения классического классификатора: ансамбля из 100 деревьев решений (random forest) из библиотеки scikit-learn.
Эксперименты проводились на Google Colab с GPU T4. Использовалась модель Qwen/Qwen2.5-1.5B и набор данных ag_news, содержащий новостные статьи, классифицированные по четырём категориям. Для ускорения сравнения авторы работали с подмножеством из 800 статей для обучения и 200 для тестирования.
Противоречивые результаты
При стратегии фиксированных эмбеддингов извлечение векторов заняло 96,5 секунд, а обучение классификатора — всего 2,866 секунды. Точность на тестовом наборе достигла 82,0 %. В руководстве отмечается, что основное время уходит на извлечение признаков, тогда как обучение классификатора практически мгновенно.
Стратегия LoRA показала точность 87,0 % при времени обучения 300,3 секунды. Таким образом, прирост точности имеет свою цену: согласно руководству, весь процесс занял в три раза больше времени, и этот разрыв может стать значительно более заметным с более объёмными наборами данных.
Когда отдавать предпочтение той или иной стратегии
Авторы рекомендуют фиксированные эмбеддинги, когда требуется быстрое обучение и низкая вычислительная нагрузка, а также чтобы избежать переобучения базовой модели. Fine-tuning с QLoRA, напротив, необходим, когда сокращение разрыва в точности критически важно для целевой области или когда модель должна усвоить специфические нюансы, глубоко укоренённые в этой предметной области.
Рассуждения меняются для чисто генеративных задач, таких как создание текста или кода, где адаптация модели (например, через fine-tuning) обычно необходима для получения специализированного поведения. Однако в руководстве отмечается, что фиксированные эмбеддинги могут быть жизнеспособной альтернативой для некоторых генеративных применений в бесплатных развёртываниях, когда максимальная производительность является не самым жёстким критерием.
