Большая языковая модель

Нейросеть с миллиардами параметров, обученная предсказывать следующий токен в тексте и способная отвечать на вопросы, писать код и рассуждать.

КРАТКО
Большая языковая модель — это нейросеть, обученная на огромных объёмах текста с одной простой задачей: предсказывать следующий кусочек слова. Из этой простой задачи неожиданно вырастает способность отвечать на вопросы, писать код, переводить, рассуждать и поддерживать диалог. Примеры — GPT, Claude, Gemini, LLaMA, YandexGPT, GigaChat. Главное ограничение — модель не знает мира напрямую и регулярно ошибается, особенно в фактах и сложной логике.
СИНОНИМЫ:большая языковая модельязыковая модельLLMlarge language model

Большая языковая модель (LLM) — это огромная нейросеть на архитектуре трансформера. Она обучается на терабайтах текста из интернета, книг, кода и других источников, после чего отдельно дообучается следовать инструкциям и быть полезным собеседником.

Как работает на простом уровне

  1. Текст разбивается на токены — кусочки слов.
  2. Модель смотрит на все предыдущие токены и предсказывает распределение вероятностей следующего.
  3. Один из вероятных токенов выбирается, добавляется к тексту, и цикл повторяется.

Что отличает большую модель от маленькой

  • Число параметров — миллиарды, иногда сотни миллиардов.
  • Объём и разнообразие обучающих данных.
  • Способность решать задачи, которым модель явно не учили: без единого примера или по паре примеров прямо в запросе (в английской терминологии zero-shot и few-shot).

Чего LLM делать не умеет

  • Гарантированно говорить правду — модель часто уверенно ошибается (галлюцинирует).
  • Считать большие числа и выполнять точные алгоритмы без внешних инструментов.
  • Помнить разговор дольше своего контекстного окна без специальных механизмов памяти.
КОГДА ПРИМЕНЯТЬ
  • Задача связана с пониманием или генерацией текста
  • Можно жить с тем, что ответ может быть неточным и требует проверки
  • Цена единичной ошибки не катастрофическая или есть слой контроля сверху
КОГДА НЕ СТОИТ
  • Нужны точные числовые расчёты — лучше встроить калькулятор или классический алгоритм
  • Цена ошибки очень высока (медицинские диагнозы, юридические выводы), и нет человека-проверяющего
  • Чисто структурированная задача с понятными правилами — здесь LLM не нужна
ПРИМЕР

Команда поддержки клиентов внедряет LLM как «первую линию»: модель сама отвечает на частые вопросы, а сложные случаи передаёт человеку. По метрикам количество обращений, требующих участия оператора, падает в два раза, средняя скорость ответа клиенту — с часа до минуты. При этом ответы модели регулярно выборочно проверяются, и на основе ошибок дорабатывается системный промпт и база знаний.

КАК ИСПОЛЬЗОВАТЬ В SHTAB

Запоминать «знания мира» в самой модели — плохая идея: мир меняется, а каждое переобучение стоит дорого. Гораздо удобнее подключить к модели поиск по своим документам (RAG): модель остаётся универсальным «языковым процессором», а фактическая база — отдельным компонентом, который можно обновлять без переобучения.

Попробовать бесплатно

Вопросы про «Большая языковая модель»

Из-за количества параметров. У современных LLM их от единиц до сотен миллиардов. Это в тысячи раз больше, чем у языковых моделей десятилетней давности, и именно на таком масштабе у моделей появились новые качества: следование инструкциям, обобщение, способность к рассуждениям.

Применяйте термины на практике

База знаний, задачи и цели — в одном сервисе. Бесплатно — без лимита по числу людей.