Meta выпустила LLaMA-2 как открытую базовую модель для широкого использования. За первые полгода её дообучили более 50 000 раз — под медицинские консультации, юридические заключения, программирование на Rust, обслуживание клиентов сотовых операторов. Каждая специализированная версия обошлась в сотни раз дешевле обучения с нуля. Это и есть сила файнтюнинга.
Что такое файнтюнинг
Файнтюнинг (fine-tuning, дообучение) — процесс адаптации предобученной языковой модели к конкретной задаче или домену с помощью дополнительного обучения на специализированном датасете.
Предобучение требует миллиардов примеров и месяцев на суперкомпьютерах. Файнтюнинг — тысяч примеров и часов на обычном GPU. Логика: модель уже «знает» язык, синтаксис, общие факты. Ей нужно лишь освоить специфику.
Аналогия: врач получает медицинское образование (предобучение), затем проходит специализацию по кардиологии (файнтюнинг). Не нужно заново учить биологию — нужно углубиться в конкретную область.
**Врезка — Ключевая дата**
**2018 год** — Джереми Ховард и Себастьян Рудер публикуют ULMFiT — первую систематическую методику файнтюнинга языковых моделей. Статья заложила принципы, которые используются во всех современных LLM¹.
Когда нужен файнтюнинг
Файнтюнинг оправдан, когда:
- Нужен специфический стиль (корпоративный тон, отраслевой жаргон)
- Задача требует глубоких знаний узкой области (медицина, право, финансы)
- Важна скорость и стоимость: маленькая дообученная модель быстрее и дешевле большой общей
- Нельзя передавать данные в облако (дообученная модель работает локально)
Файнтюнинг не решает проблему актуальных данных — для этого нужен RAG. Дообученная модель всё равно «не знает» о событиях после даты её данных.
Методы файнтюнинга
Full fine-tuning — обновление всех параметров модели. Максимальное качество, максимальная стоимость. Для моделей 7B+ требуются десятки тысяч долларов и специализированные GPU.
LoRA (Low-Rank Adaptation) — ключевая инновация 2022 года². Вместо обновления всех весов модели добавляются небольшие матрицы-«адаптеры» с низким рангом. Параметров обновляется <1%, качество близко к full fine-tuning. Дообучение модели 7B на потребительском GPU за несколько часов.
QLoRA — квантизованная версия LoRA. Позволяет дообучать 65B-модели на одном GPU с 24 ГБ памяти. Демократизировала файнтюнинг.
PEFT (Parameter-Efficient Fine-Tuning) — семейство методов, включающее LoRA, Adapter, Prefix Tuning. Общий принцип: минимум изменений, максимум специализации.
Данные для файнтюнинга
Качество датасета важнее количества. Несколько сотен высококачественных примеров в формате «инструкция–ответ» дают лучший результат, чем тысячи плохих.
Типичный формат:
`json
{"instruction": "Переведи на юридический язык",
"input": "Договор расторгнут",
"output": "Настоящий договор прекращает своё действие..."}
`
Для медицины и права важна верификация: ошибки в обучающих данных прямо попадут в ответы модели.
Инструменты
- Hugging Face PEFT — открытая библиотека с LoRA, QLoRA, Adapter
- Axolotl — удобный фреймворк дообучения с YAML-конфигурацией
- LLaMA Factory — веб-интерфейс для файнтюнинга без кода
- GigaChat API — Сбер предлагает дообучение GigaChat на корпоративных данных
Стоимость
LoRA файнтюнинг модели 7B: $50–500 в облаке. Full fine-tuning модели 70B: $5 000–50 000. Разработка и разметка датасета — обычно самая дорогая часть.
Файнтюнинг в России: реальные кейсы
Российские компании активно дообучают модели под отраслевые задачи. Лаборатория «Нейросети» (дочерняя структура Mail.ru Group / VK) дообучала Vicuna под поддержку клиентов в e-commerce — небольшая 7B-модель с LoRA заменила часть операторов на типовых запросах. Юридическая платформа «Правовест Аудит» использует дообученную GigaChat для анализа судебной практики по налоговым спорам.
Сбер предлагает сервис дообучения GigaChat на корпоративных данных через GigaChat API Fine-Tuning — закрытая бета, данные остаются в контуре клиента. Яндекс аналогично предоставляет кастомизацию YandexGPT для корпоративных клиентов через Yandex Cloud ML Platform. Ориентировочная стоимость LoRA-дообучения 7B-модели через российское облако — 5 000–30 000 рублей в зависимости от объёма данных и количества эпох.
---
¹ Howard J., Ruder S. ULMFiT // arXiv 2018 — https://arxiv.org/abs/1801.06146
² Hu E. et al. LoRA // arXiv 2021 — https://arxiv.org/abs/2106.09685