Если ИИ придумывает условия услуги, сначала ограничьте риск использования неверного ответа, затем проверьте источники, сценарий и условия передачи человеку.
Сохраните пример ошибки
Запишите вопрос, ответ и версию доступных консультанту сведений. Уберите лишние персональные данные. Нужно понять, какие условия были придуманы: цена, срок, состав работы или обещание результата. Один общий комментарий «бот ошибается» недостаточен для исправления.
Условный пример: консультант называет фиксированный срок, хотя в базе указан порядок индивидуальной оценки. Такой ответ нельзя превращать в публичное обязательство. Приостановите использование неподтверждённой формулировки и предложите уточнение у человека.
Проверьте причину по слоям
Посмотрите, есть ли нужный факт в источниках, нет ли старых противоречащих документов и допускает ли сценарий догадку вместо ответа «неизвестно». Исправление промпта без проверки базы может сохранить первопричину.
Определите темы, где консультант только объясняет порядок, а решение подтверждает сотрудник. Важные условия должны проходить предусмотренную проверку. Не расширяйте доступ модели к платежам и договорам ради того, чтобы она казалась более самостоятельной.
Проверьте исправление на соседних вопросах
Повторите исходный вопрос и его варианты: неполные сведения, просьба исключения, попытка навязать неподтверждённую цену. Оцените, сохраняется ли правильная граница. Удачный ответ на одну формулировку не доказывает отсутствие ошибки в остальных.
Сохраните тесты для будущих обновлений модели и базы. Пользователю нужен способ обратиться к человеку и уточнить существенное условие. Цель проверки — уменьшить наблюдаемый риск и сделать ограничения управляемыми, а не обещать абсолютную безошибочность ИИ.
- Пример и версия источников.
- Проверка противоречий.
- Запрет догадки в важных условиях.
- Передача человеку.
- Повторные проверки вариантов вопроса.