Граница между текстом и действием
Сгенерировать ответ и отправить его — разные операции. В первом случае ошибка остаётся в черновике, во втором становится внешним обещанием. Поэтому агент не получает прямой доступ к почте только потому, что хорошо пишет. Серверный маршрут должен знать получателя, разрешённый тип данных, шаблон и условие, при котором нужно остановиться и попросить человека.
Начните с жёстких правил
Самые важные ограничения не требуют рассуждений: нельзя отправлять на внешний адрес без подтверждения, прикладывать внутренний файл, менять банковские данные, обещать срок вне утверждённого списка. Их исполняет код. Модель может выделить рискованный фрагмент или объяснить, почему письмо не прошло, но не является единственным контролёром. Это защищает процесс и от ошибок модели, и от неоднозначного промпта.
Сделайте исключение видимым
При срабатывании правила агент не должен тихо заменить фразу или скрыть проблему. Он показывает черновик, правило, причину остановки и варианты человека: исправить, подтвердить или отклонить. Очередь исключений позволяет увидеть повторяющиеся случаи. Если менеджеры каждый день подтверждают один и тот же тип письма, можно создать безопасный шаблон вместо постоянного ручного обхода.
Проведите тест на прошлом
Соберите обезличенные примеры: удачные ответы, письма с ошибкой, спорные запросы. Запустите их без реальной отправки и сравните решение системы с решением сотрудника. Особенно ценны неприятные случаи: адрес поменялся, клиент просит исключение, в запросе есть чужие данные. Система должна уметь остановиться, а не стараться выглядеть полезной любой ценой.
Считайте риск вместе со скоростью
Полезная метрика — не число ответов в минуту, а критичные пропуски, ложные блокировки и время до принятого сообщения. Быстрый агент, после которого приходится объясняться с клиентом, не экономит работу. Когда ошибки и причины понятны, расширяйте маршрут от внутренних черновиков к небольшой группе получателей. При смене модели повторяйте контрольный набор.
FAQ
**Почему не дать агенту право отправки сразу?** Потому что цена ошибки внешнего сообщения выше цены черновика. **Кто владелец правил?** Бизнес-владелец процесса и технический ответственный. **Можно ли отключить блокировку ради скорости?** Только после разбора причины и замены её точным правилом.
Короткая проверка
- Понятны цель и человек, который примет результат.
- Исходники очищены, их версия и дата сохранены.
- Факты, числа и ограничения сверены вручную.
- Неудачный пример записан вместе с причиной.
- Есть измеримый следующий шаг и путь назад.