Короткий ответ
оценить, выдержит ли выбранная модель реальную нагрузку
Не путайте размер весов и память
К весам добавляются runtime, контекст, KV-кэш и параллельные запросы. Сначала измерьте пик на реальной задаче.
Нагрузите стенд постепенно
Один запрос, затем очередь и длинный вход покажут разные ограничения. Фиксируйте первый токен и устойчивую скорость.
Сделайте запасной путь
При нехватке памяти задача должна перейти в ручную очередь, а не зависнуть без понятного сообщения.
Граница доступа
Даже локальная модель не должна видеть общие диски и получать право на необратимое действие. Функции проверяет сервер, спорный случай возвращается человеку.
Проверка и FAQ
Что считать успехом?
Повторяемый результат без критичной правки.
Когда остановить пилот?
При ошибке, которую нельзя объяснить источником.
Нужен ли резерв?
Да, всегда.
Короткая проверка
- Понятны цель и человек, который примет результат.
- Исходники очищены, их версия и дата сохранены.
- Факты, числа и ограничения сверены вручную.
- Неудачный пример записан вместе с причиной.
- Есть измеримый следующий шаг и путь назад.