Концепции и устройство
Контроль человека и безопасность
Механизмы супервизии, перевод на оператора и превентивные ограничения действий ИИ
Контроль человека и безопасность
Архитектура AGONTS базируется на принципе безусловного приоритета человеческого контроля (Human-in-the-Loop). Автоматизация призвана освобождать специалистов от рутины, но ни при каких условиях не должна совершать критические действия без подтверждения или изолировать абонента от живой поддержки.
1. Уровни контроля человека
| Уровень | Момент применения | Механизм реализации |
|---|---|---|
| Превентивный (Preventive) | До выхода в эфир | Согласование сценария, стоп-факторов, проверка тестовыми звонками |
| Синхронный (Synchronous) | В процессе звонка | Мгновенный перевод на оператора (OPERATOR_HANDOFF), стоп-слова |
| Ретроспективный (Retrospective) | После завершения | Аудит стенограмм, анализ причин отказов, калибровка NLU-моделей |
2. Механизм перевода на человека (Operator Handoff)
Перевод на живого специалиста инициируется при возникновении любого из следующих триггеров:
- Прямой запрос абонента: фразы «соедините с человеком», «позовите оператора», «хватит говорить с роботом».
- Семантическая неопределенность: серия реплик подряд (по умолчанию 2–3), в которых модель не может уверенно классифицировать намерение.
- Обнаружение конфликта / негатива: резкая эмоциональная реакция, ненормативная лексика или претензии правового характера.
- Выход за границы сценария (Out-of-Scope): вопросы, не относящиеся к теме звонка, на которые у агента нет согласованных ответов.
Передача контекста при переводе
При эскалации звонка в корпоративную АТС (SIP REFER / Re-Invite) формируется мета-пакет с накопленным контекстом:
- Идентификатор сессии (
call_id). - Уже подтвержденные слоты данных (например, имя абонента, номер заказа).
- Причина эскалации (
handoff_reason).
3. Защита от деструктивных действий (Safety Boundaries)
Агент AGONTS наделен правами сбора и верификации данных, но изолирован от совершения необратимых операций:
- Агент не может самостоятельно подтверждать финансовые списания.
- Агент не может изменять критические регистрационные данные клиентов в CRM.
- Любые собранные в ходе разговора договоренности передаются в виде структурированных предложений (draft/proposal) и требуют окончательной валидации бизнес-системами заказчика.
4. Эволюция инструментов контроля
| Инструмент | Описание | Статус |
|---|---|---|
| SIP Handoff | Перенаправление звонка в очередь входящих вызовов АТС заказчика | observed-in-code |
| Разметка стоп-факторов | Корректное прощание и отметка REJECTED при отказе от диалога | observed-in-code |
| Attention Inbox | Единый журнал пограничных ситуаций и диалогов для ручной верификации супервизором | target |
| Control Room (Супервизор) | Мониторинг звонков в реальном времени с возможностью суфлирования или перехвата | target |
| Двухфакторное согласование (Approvals) | Блокировка рискованных действий до подтверждения уполномоченным оператором | target |