Направление
ML-инфраструктура изолированных контуров
Реестры моделей и контейнеров, инференс, доставка обновлений. Инфраструктура работает в том контуре, который выбрал заказчик.
Интернет
Периметр заказчика
[ИЗОЛИРОВАННЫЙ КОНТУР]
Инференс
Реестры
Инструменты команд
Доставка обновлений
Все составляющие размещены внутри периметра
Изолированные контуры
В изолированном контуре привычные инструменты машинного обучения перестают работать: внешние источники недоступны, обновления не доезжают, версии на узлах расходятся.
// изолированный контур, день первый
$
установка библиотеки
→ внешний источник недоступен
$
загрузка образа
→ нет маршрута до сети
$
загрузка модели
→ сеть недоступна
Подход
Что размещается внутри периметра
a
Реестры внутри периметра
Модели и датасеты размещаются во внутреннем реестре. Обращение к внешним хабам не требуется.
b
Инструменты без переписывания
Команды продолжают работать привычными инструментами. Переучивать людей и переписывать код не приходится.
c
Доставка подписанными дельтами
Обновления собираются снаружи и въезжают в изолированный контур одним проверяемым бандлом.
d
Воспроизводимые версии
Каждая модель, образ и зависимость зафиксированы: контур собирается одинаково через год.
Реестр моделей и наборов данных для этой задачи собран в продукте AI-Vault.