Искусственный интеллектLLMОбучение моделей

Тонкая настройка модели

Дообучение готовой модели на небольшом наборе своих данных, чтобы адаптировать её под конкретную задачу, домен или стиль.

КРАТКО
Тонкая настройка — это дообучение готовой предобученной модели на небольшом наборе ваших данных. Так вы не учите её языку или миру заново, а только подкручиваете под конкретную задачу: ответы в стиле вашей компании, медицинскую терминологию, специальный формат вывода. Тонкая настройка дороже работы с промптами, но дешевле обучения модели с нуля и даёт более стабильный результат на узких задачах.
СИНОНИМЫ:Тонкая настройкадообучение моделифайнтюнингfine-tuning

Тонкая настройка — это компромисс между «дёшево и быстро» (работа с промптами) и «дорого и долго» (предобучение). Берётся готовая модель и продолжается её обучение на небольшом, но качественном наборе примеров.

Виды тонкой настройки

  • Полная тонкая настройка — обновляются все веса модели. Дорого, но даёт максимальный контроль.
  • LoRA и подобные методы — обновляется только маленький адаптер, основная модель остаётся неизменной. В 10–100 раз дешевле полной настройки.
  • Настройка под инструкции — учит модель следовать форматам и инструкциям, а не просто продолжать тексты.
  • Настройка по предпочтениям — учит модель выбирать ответы, которые люди оценивают выше.

Когда оправдано

  • Нужен стабильный специфический стиль или формат ответа, который трудно описать промптом.
  • Объём запросов велик и хочется уменьшить промпт, чтобы экономить токены.
  • Качество в узком домене у общей модели не дотягивает, а данных для дообучения хватает.
КОГДА ПРИМЕНЯТЬ
  • Есть несколько сотен или тысяч качественных примеров «вход → правильный ответ»
  • Стиль или формат трудно стабильно держать только промптом
  • Стоимость запросов с большим контекстом уже становится заметной
КОГДА НЕ СТОИТ
  • Задача меняется каждую неделю — данные устареют быстрее, чем закончится тонкая настройка
  • У вас нет качественных размеченных примеров
  • Промпт хорошо справляется и так — тонкая настройка усложнит проект без явной выгоды
ПРИМЕР

Компания собирает 800 примеров идеальных ответов своей поддержки клиентов и дообучает на них среднюю модель методом LoRA. После тонкой настройки модель отвечает в фирменном стиле без длинного системного промпта, что снижает стоимость каждого запроса. При этом базовая модель остаётся той же — её можно использовать и для других задач параллельно.

КАК ИСПОЛЬЗОВАТЬ В SHTAB

Прежде чем браться за тонкую настройку, выжмите максимум из промптов и поиска по своей базе документов: часто 80% эффекта получают именно так, за пару дней работы. Тонкая настройка оправдана, когда промпты уже большие, стоимость ощутима, а заметная часть ошибок устойчиво повторяется в одних и тех же местах.

Попробовать бесплатно

Вопросы про «Тонкая настройка модели»

Чаще нет, и рассчитывать на это не стоит. Тонкая настройка отлично работает для стиля, формата и поведения, но плохо подходит для запоминания фактов: они размываются между весами и всплывают неточно. Для фактических знаний почти всегда выгоднее поиск по своей базе документов (RAG) — его проще обновлять, и он позволяет показать источник ответа.

Применяйте термины на практике

База знаний, задачи и цели — в одном сервисе. Бесплатно — без лимита по числу людей.