К нам приходят с двух сторон. С одной — фаундер с двумя ноутами и желанием «попробовать AI быстро». С другой — CIO крупного производства, у которого корпоративная политика безопасности на 80 страниц и явный запрет на внешние SaaS под персональные данные. Этот пост — про вторую сторону.
Целевая модель on-prem развертывания
В корпоративном сценарии on-prem предполагает размещение компонентов платформы в изолированном контуре заказчика. Архитектурная цель — исключить передачу персональных данных во внешние публичные API: сервисы платформы, базы данных, очереди задач и сервисы инференса моделей функционируют во внутреннем периметре организации.
Формат поставки (контейнеризация, манифесты оркестрации) и сайзинг вычислительных мощностей определяются индивидуально. Требования к серверам и графическим ускорителям рассчитываются под выбранное семейство моделей, интенсивность обращений, длину контекста и требования к задержке ответов.
Почему это важно для 152-ФЗ
ФЗ-152 «О персональных данных» среди прочего требует:
- Локализации обработки ПДн граждан РФ на территории России (ст. 18, ч. 5).
- Согласия субъекта на трансграничную передачу.
- Защиты ПДн при автоматизированной обработке — прозрачность алгоритмов и право на пересмотр решения.
Если ваш AI-сотрудник тащит фрагменты карточек клиентов в OpenAI или Anthropic — это трансграничная передача в третьи страны. Юридически это требует согласия субъекта на отдельной строке, фактически — мало кто это делает. Регулятор пока не штрафует за такое массово, но прецеденты уже есть, и в 2026 году вектор внимания к LLM-провайдерам очевиден.
On-prem-вариант снимает вопрос: данные физически не выходят из вашего ЦОД.
Выбор локальных моделей: контрольный список для оценки
При планировании изолированного контура стек моделей формируется исходя из задач проекта и доступных аппаратных ресурсов. Платформа проектируется под интеграцию с OpenAI-совместимыми эндпоинтами инференса (vLLM, llama.cpp):
- Модели для диалогов и инструкций: оценка открытых моделей с качественной поддержкой русского языка под регламенты обслуживания.
- Модели для длинного контекста и аналитики: подбор архитектур под объемные регламенты и базу знаний.
- Векторные эмбеддинги: локальные модели векторизации для сценариев поиска по корпоративным документам (RAG).
- Речевые сервисы (STT/TTS): локальный речевой стек либо интеграция с защищенными контурами операторов связи.
Если в организации уже развернут закрытый контур инференса или используются доверенные провайдеры (например, GigaChat или YandexGPT с изолированным подключением), интеграция настраивается через совместимый интерфейс.
Чек-лист оценки для службы безопасности (ИБ)
При согласовании проекта развертывания в контуре заказчика прорабатывается следующий контрольный список требований ИБ:
- Сетевая изоляция: конфигурация внутренних подсетей, правила файрвола и контролируемые маршруты обновлений.
- Анализ зависимостей и лицензий: согласование перечня используемых открытых компонентов и библиотек (SBOM).
- Журналирование и аудит: требования к детализации логов действий агентов, вызовов инструментов и срокам хранения записей (retention) в соответствии со стандартами 152-ФЗ.
- Разграничение доступа (RBAC): матрица ролей и прав доступа администраторов, супервизоров и операторов.
- Шифрование данных: защита конфигураций, токенов интеграций и баз данных в состоянии покоя (at-rest) и при передаче (in-transit).
- План резервного копирования: регламенты создания снимков состояний БД и процедура аварийного восстановления.
Что НЕ работает on-prem
Честно про ограничения:
- Облачные LLM — очевидно, OpenAI и Anthropic локально не запускаются. Если проект требует именно GPT-5 — ставится опциональный egress через ваш прокси к одобренному списку endpoints, и в инструкции сотрудника прописывается, какие данные не отправлять наружу.
- Голосовая телефония через SIP — при выходе в телефонную сеть общего пользования вызовы маршрутизируются через оператора связи, что требует согласования внешнего сетевого стыка.
- Telegram/WhatsApp — это всегда внешние API. Мессенджер-канал не может быть on-prem по определению. Если корпорат жёстко запретил мессенджеры — остаются голос, email, виджет на корпоративном сайте, MS Teams.
Порядок развёртывания и Assisted Onboarding
Внедрение платформы в закрытом контуре заказчика выполняется в формате Assisted Onboarding с привлечением технической команды или сертифицированных интеграторов:
- Архитектурное проектирование: согласование сетевой топологии, перечня интеграций, требований ИБ и регламентов обработки данных.
- Развёртывание в изолированном контуре: установка сервисов платформы в тестовой подсети заказчика, проверка сетевых доступов и настройка локальных LLM.
- Подключение внутренних систем: интеграция с корпоративными сервисами (CRM, Service Desk, ERP) через MCP-коннекторы, настройка ролевой модели и политик аудита.
- Валидация и ввод в эксплуатацию: проверка работы сценариев на контрольной выборке данных и согласование регламента сопровождения.
Условия поставки, стоимость лицензий и параметры технического сопровождения определяются индивидуально для каждого проекта в зависимости от архитектурных требований, объёма инфраструктуры и регламентов заказчика.
Кому это подходит
- Производственные компании с MES/ERP и 152-ФЗ-обязательствами.
- Госкорпорации и компании, выходящие на КИИ-инфраструктуру.
- Финтех с банковской лицензией и требованиями ЦБ по локализации.
- Медицинские холдинги с врачебной тайной.
- Компании, у которых корпоративная политика безопасности явно запрещает SaaS под data, не классифицированную как public.
Кому это не подходит
- Небольшим командам и стартапам — локальная инфраструктура требует ресурсов на поддержку и администрирование. Для типовых задач эффективнее использовать облачную версию AGONTS с шифрованием данных.
- Сценариям, где данных условно нет (генерация креативов, переводы) — там нет смысла в локальной установке.
С чего начать оценку
Прежде чем приступать к развёртыванию в закрытом периметре, рекомендуется сформировать формализованные критерии приёмки и проверить логику сценариев на синтетических данных в изолированном тестовом проекте. Это позволяет заранее зафиксировать требования к моделям и интеграциям до начала инфраструктурных согласований.
Для обсуждения on-prem-инсталляции и условий Assisted Onboarding свяжитесь с нашей командой.