'/%3e%3cpath%20d='M83.8172%20112C100.688%20112%20111.886%2098.2694%20112%2083.8882H44.0245C25.8409%2083.8882%2016.001%2094.3169%2016.001%20112H83.8172Z'%20fill='url(%23paint1_linear_101_577)'/%3e%3cpath%20d='M44.1725%2044.1138H16.0008C15.9465%2051.0963%2018.504%2058.2306%2024.2977%2064.0225L44.1706%2083.8881L52.8986%2075.3569L61.7636%2066.7019C63.2767%2065.2244%2063.2786%2062.7888%2061.7636%2061.3094L44.1725%2044.1138Z'%20fill='%233A5FFF'/%3e%3cpath%20d='M83.8248%2083.8862H111.996C112.051%2076.9037%20109.493%2069.7693%20103.7%2063.9774L83.8267%2044.1118L75.0986%2052.6431L66.2337%2061.2981C64.7206%2062.7756%2064.7187%2065.2112%2066.2337%2066.6906L83.8248%2083.8862Z'%20fill='%233A5FFF'/%3e%3cdefs%3e%3clinearGradient%20id='paint0_linear_101_577'%20x1='16.001'%20y1='30.055'%20x2='111.998'%20y2='30.055'%20gradientUnits='userSpaceOnUse'%3e%3cstop%20stop-color='%2370ADFE'/%3e%3cstop%20offset='0.62'%20stop-color='%233A5FFF'/%3e%3c/linearGradient%3e%3clinearGradient%20id='paint1_linear_101_577'%20x1='111.998'%20y1='97.9451'%20x2='16.001'%20y2='97.9451'%20gradientUnits='userSpaceOnUse'%3e%3cstop%20stop-color='%2370ADFE'/%3e%3cstop%20offset='0.62'%20stop-color='%233A5FFF'/%3e%3c/linearGradient%3e%3c/defs%3e%3c/svg%3e)
Большая языковая модель
LLM — это огромная нейросеть на архитектуре трансформера. Она обучается на терабайтах текста из интернета, книг, кода и других источников, после чего отдельно дообучается следовать инструкциям и быть полезным собеседником.
Как работает на простом уровне
- Текст разбивается на токены — кусочки слов.
- Модель смотрит на все предыдущие токены и предсказывает распределение вероятностей следующего.
- Один из вероятных токенов выбирается, добавляется к тексту, и цикл повторяется.
Что отличает большую модель от маленькой
- Число параметров — миллиарды, иногда сотни миллиардов.
- Объём и разнообразие обучающих данных.
- Способность к обобщению на задачи, которым модель явно не учили (zero-shot и few-shot).
Чего LLM делать не умеет
- Гарантированно говорить правду — модель часто уверенно ошибается (галлюцинирует).
- Считать большие числа и выполнять точные алгоритмы без внешних инструментов.
- Помнить разговор дольше своего контекстного окна без специальных механизмов памяти.
Когда применять и когда нет
Применять
- Задача связана с пониманием или генерацией текста
- Можно жить с тем, что ответ может быть неточным и требует проверки
- Цена единичной ошибки не катастрофическая или есть слой контроля сверху
Не применять
- Нужны точные числовые расчёты — лучше встроить калькулятор или классический алгоритм
- Цена ошибки очень высока (медицинские диагнозы, юридические выводы), и нет человека-проверяющего
- Чисто структурированная задача с понятными правилами — здесь LLM не нужен
Примеры применения
Команда поддержки клиентов внедряет LLM как «первую линию»: модель сама отвечает на частые вопросы, а сложные кейсы передаёт человеку. По метрикам количество тикетов, требующих участия оператора, падает в два раза, средняя скорость ответа клиенту — с часа до минуты. При этом ответы модели регулярно выборочно проверяются, и на основе ошибок дорабатывается системный промпт и база знаний.
Часто задаваемые вопросы
Из-за количества параметров. У современных LLM их от единиц до сотен миллиардов. Это в тысячи раз больше, чем у языковых моделей десятилетней давности, и именно на таком масштабе у моделей появились новые качества: следование инструкциям, обобщение, способность к рассуждениям.
Это спорный философский вопрос. Формально модель учится предсказывать следующий токен и не имеет внутренней модели мира, как у человека. При этом её ответы во многих задачах неотличимы от ответов понимающего собеседника. Поэтому удобнее думать о модели как о мощном инструменте обработки языка, а не как о сознательном агенте.
Модель не различает «знает» и «не знает» — она просто выбирает наиболее вероятное продолжение текста. Если правильного ответа в её весах нет, она всё равно сгенерирует что-то правдоподобное. Это называют галлюцинацией, и лечится оно либо подключением внешних источников знаний (RAG), либо встроенным механизмом «не знаю».