Тонкая настройка — это компромисс между «дёшево и быстро» (работа с промптами) и «дорого и долго» (предобучение). Берётся готовая модель и продолжается её обучение на небольшом, но качественном наборе примеров.
Виды тонкой настройки
- Полная тонкая настройка — обновляются все веса модели. Дорого, но даёт максимальный контроль.
- LoRA и подобные методы — обновляется только маленький адаптер, основная модель остаётся неизменной. В 10–100 раз дешевле полной настройки.
- Настройка под инструкции — учит модель следовать форматам и инструкциям, а не просто продолжать тексты.
- Настройка по предпочтениям — учит модель выбирать ответы, которые люди оценивают выше.
Когда оправдано
- Нужен стабильный специфический стиль или формат ответа, который трудно описать промптом.
- Объём запросов велик и хочется уменьшить промпт, чтобы экономить токены.
- Качество в узком домене у общей модели не дотягивает, а данных для дообучения хватает.
- Есть несколько сотен или тысяч качественных примеров «вход → правильный ответ»
- Стиль или формат трудно стабильно держать только промптом
- Стоимость запросов с большим контекстом уже становится заметной
- Задача меняется каждую неделю — данные устареют быстрее, чем закончится тонкая настройка
- У вас нет качественных размеченных примеров
- Промпт хорошо справляется и так — тонкая настройка усложнит проект без явной выгоды
Компания собирает 800 примеров идеальных ответов своей поддержки клиентов и дообучает на них среднюю модель методом LoRA. После тонкой настройки модель отвечает в фирменном стиле без длинного системного промпта, что снижает стоимость каждого запроса. При этом базовая модель остаётся той же — её можно использовать и для других задач параллельно.
Прежде чем браться за тонкую настройку, выжмите максимум из промптов и поиска по своей базе документов: часто 80% эффекта получают именно так, за пару дней работы. Тонкая настройка оправдана, когда промпты уже большие, стоимость ощутима, а заметная часть ошибок устойчиво повторяется в одних и тех же местах.