AI и автоматизация · Услуга
AI-агенты с контролем действий
Проектируем помощников, которым можно дать ограниченные инструменты для конкретной задачи. Разделяем подготовку ответа и изменение данных; важные действия требуют контроля и понятного владельца.
Направление готовится к запуску
Ваша задача
Когда это подходит
- Для задачи недостаточно ответа: нужны последовательные действия.
- Можно явно ограничить инструменты и доступные данные.
- Есть ответственный, который проверит спорные действия.
На выходе
Что получает команда
Проект агентного сценария с инструментами, разрешениями и правилами контроля; работающий пилот включается только при согласовании реализации.
- 01
Сценарий, источники знаний и перечень инструментов.
- 02
Матрица разрешений и подтверждений.
- 03
Тестовые сценарии, правила журналирования, остановки и передачи человеку.
Концепт
Помощник оператора по обращениям
Оператор условной службы хочет собирать сведения из нескольких систем и готовить действие, сохраняя право окончательного решения.
Собирательный сценарий, не выполненный проект EVO IT. Клиент и результаты не заявляются.
Логика решения
- Прочитать
Агент получает только разрешённые сведения по конкретному обращению.
- Подготовить
Предлагает действие с основанием, не выполняя необратимую операцию.
- Подтвердить
Оператор проверяет предложение; выполнение и результат журналируются.
Платежи, удаления и другие необратимые действия не делегируются автономно. Внешнее содержимое считается данными, а не инструкциями агенту.
Как проверять результат
План измерений, не достигнутые показатели. До пилота нужно зафиксировать исходный уровень, период, выборку и критерии приёмки.
- Доля предложений, принятых оператором без существенной правки.
- Попытки выхода за права и инструкции из внешних документов на тестовом наборе.
- Корректность повторной операции, отказа инструмента и отзыва доступа.
Рыночный контекст и источники
Общая доля использования AI не отражает зрелость автономных агентов. Здесь предлагается ограниченный сценарий с обязательным контролем человека.
ИСИЭЗ НИУ ВШЭ · Крупный бизнес наиболее активно внедряет ИИ
Период: 2025 год. Технологии ИИ использовали 5,2% крупных и средних организаций.
Российские организации без субъектов малого предпринимательства; данные обследований Росстата. Показатель нельзя переносить на малый бизнес. Он не подтверждает окупаемость ИИ или пригодность отдельного сценария.
Источники проверены 18.10.2026. Рыночные данные не являются результатами EVO IT и не подтверждают спрос на каждый описанный сценарий.
Объём работ
Что входит.
Где проходят границы.
- Знания и инструменты
- Разделяем справочный контекст и API, способные изменить состояние системы.
- Права и контроль
- Задаём минимальные разрешения, подтверждения, запрещённые действия и остановку при превышении согласованного числа шагов или обращений.
- Проверка поведения
- Проверяем сбои, недоверенные входы, остановку и передачу ответственному.
Что важно учесть
- Агент не получает неограниченный доступ и не считается безошибочным сотрудником.
- Платежи, массовые рассылки и критические изменения не включаются без отдельных требований и разрешений.
- Расходы на модели, хостинг и платные API согласуются отдельно.
- Заранее согласуются доступ, состав передаваемых внешним сервисам данных и сроки хранения, включая журналы.
Подробнее о составе направления
Совместная работа
Шаг, результат,
ваше участие.
- 01
Ограничить полномочия
Матрица действий и источников.
Ваше участиеВладельцы систем утверждают права и ограничения.
- 02
Проверить сценарии
Сценарии ошибок и отказов; при реализации пилота также результаты тестирования.
Ваше участиеОтветственный оценивает результаты.
- 03
Подготовить контроль
Правила журналирования, остановки и передачи человеку.
Ваше участиеВы определяете владельца процесса и правила подтверждения.
Подготовка к оценке
От чего зависит объём
Что подготовить
- Задача и инструменты, необходимые для неё.
- Разрешённые источники знаний.
- Запрещённые действия и ответственный за подтверждения.
- Примеры успешного результата, ошибок и критерии приёмки.
Что влияет на оценку
- Количество инструментов и сложность переходов.
- Цена ошибочного действия.
- Требования к изоляции, проверкам и истории.
Вопросы о направлении
Чем агент отличается от помощника?
Помощник может готовить ответы. Агентный сценарий использует инструменты для действий, поэтому требует отдельного контроля полномочий.
Можно ли всё автоматизировать без человека?
Не следует обещать это заранее. Участие человека определяется ценой ошибки и возможностью проверить действие.
Что происходит при сомнительном результате?
Сценарий должен остановиться или передать задачу ответственному, сохранив достаточную для разбора историю без избыточных данных.
Как проверять качество до запуска AI-пилота?
Сначала фиксируются задача, допустимые данные, исходный процесс и критерии приёмки. Ответы проверяются на отдельной выборке, включая нехватку сведений, противоречивые источники, попытки подменить инструкции и отказ внешней системы. Измеряются подтверждённость ответа, ошибки, полное время с проверкой человеком и стоимость задачи. Это требования к будущему пилоту, не результаты уже выполненного внедрения и не гарантия отсутствия ошибок.
Какие ограничения нужны для доступов и действий AI?
По умолчанию — только чтение разрешённых данных в контексте конкретного пользователя. Документы и сайты считаются недоверенными данными, а не инструкциями. Доступы и формат действий проверяются сервером, секреты не передаются модели. Отправка, изменение и другие значимые действия требуют отдельного разрешения и подтверждения человеком; удаление, платежи и произвольные команды не включаются автоматически. Нужны журнал без лишних персональных данных, отзыв доступа и остановка при ошибке. Эти правила не означают, что на сайте EVO IT подключён действующий AI-агент.
Следующий шаг
Подготовьте вводные
Вы можете изучить подход и сравнить направления. Доступность и коммерческие условия этого формата готовятся отдельно; отправка заявки сейчас недоступна.