Концепции
Безопасность и контроль
Контроль качества, ограничения сценариев и защита диалогов
Безопасность и контроль
Платформа AGONTS проектируется по принципу «контролируемого ИИ»: искусственный интеллект выполняет роль операционного исполнителя, чьи действия строго ограничены бизнес-правилами и проверяемыми контрактами.
Текущие механизмы безопасности
В текущей версии платформы безопасность обеспечивается на уровне архитектуры диалогового графа:
| Механизм | Принцип работы |
|---|---|
| Детерминированные переходы | Переход между узлами сценария возможен только по заранее утвержденным маршрутам. Агент не может самостоятельно сменить контекст беседы. |
| Ограничение генерации | Ответы формируются строго на основе согласованных инструкций узла. Свободные рассуждения на отвлеченные темы блокируются на уровне промптов. |
| Перевод на оператора | При обнаружении спорной ситуации, негатива или прямого запроса абонента вызов немедленно переводится на живого специалиста. |
| Стоп-факторы и отказ | Распознавание нежелания общаться приводит к немедленному корректному завершению диалога и фиксации статуса отказа. |
Целевая архитектура контроля (Target)
В планах развития платформы заложены расширенные механизмы превентивного контроля и согласования:
- Attention Inbox: единая очередь событий, требующих внимания человека (неуверенно распознанные реплики, пограничные согласия, расхождения данных).
- Control Room: оперативный мониторинг текущих вызовов с возможностью вмешательства супервизора в режиме реального времени (подсказка, перехват звонка).
- Многоуровневые политики подтверждения (Approvals): блокировка рискованных действий (списание средств, изменение персональных данных) до подтверждения уполномоченным сотрудником.
Эксплуатационные ограничения
В текущей редакции управление сценариями и корректировка параметров безопасности производятся через инженерную команду AGONTS. Для внесения изменений в правила безопасности обратитесь к назначенному оператору.