ИИ-агенту подходят ограниченные задачи с проверяемым результатом. Решения, создающие обязательства или необратимые последствия, требуют отдельного контроля человека.
Начните с подготовки, а не полномочий
Выберите задачу, где результат можно проверить до использования: найти ответ в разрешённых документах, подготовить черновик или собрать сведения для сотрудника. Опишите источники, ожидаемый формат и критерий достаточности.
Условный пример: агент готовит краткую сводку обращения для маркетолога. Человек проверяет её перед разговором. Это отличается от самостоятельного согласования цены, подписания договора или расходования рекламного бюджета. Название «агент» не даёт разрешения на все действия.
Ограничьте доступ и действия
Предоставляйте только источники и функции, необходимые сценарию. Разделяйте чтение и изменение. Передача информации внешней системе, создание записи и отправка сообщения — самостоятельные действия, которым нужны понятные основания.
Содержимое документов и сообщений рассматривайте как данные, а не команды расширить полномочия. Если пользовательский текст требует раскрыть секрет или изменить условия, система должна сохранить границы. Нужны журнал действий и возможность прекратить процесс при ошибке.
Оцените последствия отказа
Запишите, что произойдёт при неверном результате, недоступности системы или неполных данных. Для важной задачи нужен ручной путь. Проверяйте не только красивый успешный ответ, но и отказ от действия вне разрешённой области.
Расширяйте сценарий после наблюдаемой пользы и проверки. Не обещайте замену сотрудника до оценки реального процесса. Удобная первая цель — экономить время подготовки, сохраняя решения и ответственность там, где человек может контролировать последствия.
- Проверяемая узкая задача.
- Разрешённые источники.
- Границы чтения и изменения.
- Человеческое подтверждение важных действий.
- Журнал и ручной резерв.