Почему ИИ-агенту нужны регламенты, роли и контроль

Какие риски появляются при внедрении

Основные риски связаны не с самим диалогом, а с доступом к данным и возможностью действовать от имени компании. Агент может неверно понять документ, использовать устаревшую запись, подготовить неподходящий ответ или раскрыть сведения не тому сотруднику.

Риск уменьшают не общим запретом, а устройством процесса: минимальными доступами, проверкой результата, журналом действий и понятной ответственностью.

Доступы: что можно и что нельзя

Давайте доступ по принципу необходимости. Агенту для разбора входящих заявок не нужны финансовые документы и кадровые данные. Для поиска по базе знаний обычно достаточно чтения; право изменять материалы остаётся у владельца базы.

• разделяйте чтение, подготовку и отправку;
• ограничивайте доступ подразделением, проектом или типом документа;
• не передавайте пароли внутри запросов и переписки;
• регулярно пересматривайте разрешения и отключайте ненужные связи.

Где нужен человек в цепочке согласования

Человек подтверждает действия с высокой ценой ошибки: внешнее письмо, платёж, изменение договора, публикацию или удаление данных. Для частых и обратимых операций можно использовать выборочную проверку, но условия такого режима должны быть зафиксированы.

Хорошая граница — агент готовит результат и объясняет, на каких данных он основан, а ответственный сотрудник принимает решение.

Логи, история действий и исправления

Журнал должен показывать исходные данные, версию правила, подготовленный результат, итоговое действие и сотрудника, который его подтвердил. Это помогает разбирать ошибки и не спорить о том, что произошло.

До запуска определите способ исправления: отмена задачи, возврат карточки на предыдущий этап, повторная обработка или ручная корректировка. Не каждое внешнее действие можно откатить, поэтому отправку лучше отделять от подготовки.

Пример: агент готовит ответ, менеджер отправляет

1. Агент получает письмо и находит сведения в утверждённой базе.
2. Готовит черновик и прикладывает ссылки на использованные источники.
3. Если сведений недостаточно, отмечает вопросы вместо выдуманного ответа.
4. Менеджер проверяет текст, редактирует его и отправляет клиенту.
5. Система сохраняет исходный черновик и итоговую версию.

Похожий подход к доступу сотрудников к внутренним инструментам показан в кейсе корпоративного ИИ-портала.

Минимальная модель контроля