Десять участков работы с LLM в продукте — и что на каждом происходит у нас на самом деле: с цифрами цены, задержки и качества, а не пересказом чужих статей.
разборс замерами
Мы делаем сайты и внедряем языковые модели в продукты заказчиков. Здесь публикуем то, что измерили на своём железе: сколько стоит вызов, сколько ждёт пользователь, где модель ошибается — и где мы сами ломали прод.
Десять участков работы с LLM в продукте — и что на каждом происходит у нас на самом деле: с цифрами цены, задержки и качества, а не пересказом чужих статей.
Деплой писал «сниппет сохранён», в базе лежал новый код, а страница отдавала старый. Три часа поиска — и одна папка, о которой не пишет документация.
Пять страниц каталога разом опустели. Причина была не в базе и не в шаблоне, а в том, под каким пользователем запускался скрипт.
На телефоне страницы товара можно было таскать пальцем вбок, а часть вкладок уезжала за край. Виноват один элемент со значением min-width по умолчанию.
Сайт грузил 154 КБ шрифтов, но три четверти текста ими не рисовалось. Как это увидеть и как доказать, а не заподозрить.
Модель, которая не пишет текст, а выбирает из вариантов и ставит вероятность. Поставили локально и прогнали на настоящих задачах, а не на демо из документации.
| Инструмент | Тип | Цена | Задержка | Кириллица | Вердикт |
|---|---|---|---|---|---|
| DeepSeek | поиск в интернете | тариф провайдера | 5,2 с на запрос | да | основной канал поиска берём |
| Jev через OpenRouter | решения (choice/score/да-нет) | $0,04 за 1 млн токенов | 225 мс | да | фильтр решений, 772 вызова берём |
| Laya локально (322M) | решения, офлайн | 0 ₽ — своё железо | 243 мс на CPU | да | резерв без интернета резерв |
| Gemini | картинки и разбор файлов | по квоте | секунды | да | генерация, разбор PDF берём |
| Manrope | шрифт | 0 ₽ — свой файл | 23,8 КБ на страницу | да | заменил 154 КБ латиницы берём |
| Cabinet Grotesk | шрифт | 0 ₽ | — | НЕТ | убрали: кириллицы в файле нет убрали |
| Tesseract | распознавание | 0 ₽ — локально | секунды на страницу | да | сканы и PDF без облака берём |
Все замеры сделаны на нашем железе 24 сентября 2026. Метод: одинаковый вход, три прогона, медиана, версия инструмента в логе.
Свой текст можно прогнать в промпт-стенде — правила работают прямо в браузере.
Отдельный кэш кода сниппетов, о котором не пишет документация: правка в базе есть, страница — нет.
Кэш стал чужим для PHP-FPM: ошибки нет, лог чистый, товары исчезли.
min-width:auto у элемента сетки: строка вкладок требует 408 px при доступных 358.
Поиск с реальными источниками и сводкой. Держим основным каналом: отвечает за 5–6 секунд, отдаёт 10–20 ссылок за запрос.
Не генерирует текст, а выбирает из вариантов и ставит вероятность. 772 вызова обошлись в 8 центов — дешевле любого локального варианта.
Открытая модель решений на 322M, поднята на CPU. Работает без интернета — держим резервом на случай, когда внешние каналы недоступны.
Генерация изображений и разбор PDF/таблиц. Единственный инструмент, которому мы отдаём файлы целиком.
Локальный OCR для сканов и накладных — точный замер под нагрузкой ещё предстоит. Медленнее облака, зато данные не покидают машину; на страницу уходят секунды, точную цифру мерим заново под нагрузкой.
Вариативный шрифт с полной кириллицей и знаком рубля. Пришёл на замену семи файлам латиницы общим весом 154 КБ.
Письмо, когда выходит новый замер или разбор поломки. Без рассылок «о нас» и без продаж.