Если поставить температуру 0, ответы станут одинаковыми?

В теории — да, на практике почти всегда одинаковыми, но идеальной повторяемости современные API не гарантируют. Некоторые поставщики добавляют скрытую техническую случайность, поэтому даже при температуре 0 ответы могут немного отличаться от запуска к запуску.

Искусственный интеллектLLMПромптинг

Температура (параметр генерации)

Параметр, регулирующий случайность ответов языковой модели: чем ниже температура, тем более предсказуемы и однообразны ответы.

КРАТКО

Температура — это число от 0 до примерно 2, которое управляет разнообразием ответа. При температуре около 0 модель почти всегда выбирает самый вероятный следующий токен, и ответы получаются предсказуемыми. Чем выше значение, тем чаще модель берёт менее вероятные варианты: текст разнообразнее, но менее точен. Для точных задач берут низкую температуру, для творческих — выше.

СИНОНИМЫ:температуратемпература генерациитемпература моделиtemperature

Температура — один из главных параметров генерации в языковых моделях. Технически она масштабирует «решительность» модели в выборе следующего токена.

Как выбирать температуру

0,0–0,3 — точные задачи: классификация, извлечение данных, ответы в формате JSON, генерация кода.
0,3–0,7 — содержательные ответы на вопросы, поддержка клиентов, аналитика.
0,7–1,2 — творческие задачи: тексты для маркетинга, идеи, генерация вариантов.
выше 1,2 — для экспериментов и нестандартных задач; обычные приложения здесь редко работают.

Что важно

Низкая температура не делает ответ «верным», только более стабильным. Если модель часто ошибается на этом запросе, при температуре 0 она будет ошибаться одинаково.
Температура связана с другими параметрами генерации — top-p и top-k; обычно меняют что-то одно.

КОГДА ПРИМЕНЯТЬ

Когда настраиваете сервис на языковой модели для боевой среды
Когда замечаете нестабильность ответов в одинаковых сценариях
Когда задача требует разнообразных вариантов (например, генерация заголовков)

КОГДА НЕ СТОИТ

Не нужно для каждого запроса вручную крутить температуру в коде — обычно её задают на уровне продукта или роли модели

ПРИМЕР

В одном и том же приложении могут жить два режима: для классификации заявок поддержки — температура 0,1, чтобы одно и то же обращение всегда попадало в одну категорию; для «помоги придумать варианты ответа клиенту» — температура 0,7, чтобы каждый раз получать несколько разных формулировок.

КАК ИСПОЛЬЗОВАТЬ В SHTAB

При отладке ответов сначала зафиксируйте температуру на 0 или 0,1: вы сразу увидите, насколько проблема воспроизводима. Когда поведение стабилизировалось, аккуратно поднимайте температуру и смотрите, при каком значении начинает сыпаться качество. Это и будет ваш рабочий диапазон.

Попробовать бесплатно

Вопросы про «Температура (параметр генерации)»

Зависит от задачи. Для точных и повторяемых ответов — низкая, для творческих и разнообразных — высокая. Единого «правильного» значения нет: его подбирают опытным путём для каждой задачи в продукте.

Ещё из «Искусственный интеллект»

Вся категория →

MCP (Model Context Protocol, протокол контекста модели)

Открытый протокол, по которому языковые модели и агенты единообразно подключаются к внешним инструментам, данным и сервисам.

MLOps (эксплуатация ML-моделей)

Практики и инструменты для разработки, выкатки и эксплуатации моделей машинного обучения и ИИ в боевой среде — аналог DevOps для машинного обучения.

RAG (поиск с дополнением генерации)

Подход, при котором перед ответом языковая модель ищет подходящие документы в базе знаний и использует их как контекст.

Применяйте термины на практике

База знаний, задачи и цели — в одном сервисе. Бесплатно — без лимита по числу людей.

Попробовать бесплатно Все термины