Короткий ответ
оценить, выдержит ли выбранная модель реальную нагрузку
Не путайте размер весов и память
К весам добавляются runtime, контекст, KV-кэш и параллельные запросы. Сначала измерьте пик на реальной задаче.
Нагрузите стенд постепенно
Один запрос, затем очередь и длинный вход покажут разные ограничения. Фиксируйте первый токен и устойчивую скорость.
Сделайте запасной путь
При нехватке памяти задача должна перейти в ручную очередь, а не зависнуть без понятного сообщения.
Граница доступа
Даже локальная модель не должна видеть общие диски и получать право на необратимое действие. Функции проверяет сервер, спорный случай возвращается человеку.
Проверка и FAQ
**Что считать успехом?** Повторяемый результат без критичной правки. **Когда остановить пилот?** При ошибке, которую нельзя объяснить источником. **Нужен ли резерв?** Да, всегда.
Короткая проверка
- Понятны цель и человек, который примет результат.
- Исходники очищены, их версия и дата сохранены.
- Факты, числа и ограничения сверены вручную.
- Неудачный пример записан вместе с причиной.
- Есть измеримый следующий шаг и путь назад.