Модуль
AKI
Единый шлюз к ИИ-моделям внутри вашего контура
AKI.Gate ставится в инфраструктуре компании и становится общей точкой доступа к моделям: приложения, редакторы и агенты обращаются к одному адресу, а за ним остаются серверы моделей в контуре и внешние поставщики, если они разрешены. Ключи, пределы расходов, журнал и учет потребления не покидают периметр.
Задача
Моделей в компании становится больше, а общего входа в них нет
Один отдел поднял свой сервер инференса, другой работает с внешним поставщиком, третий держит ключ в коде сервиса. Сменить модель - значит править приложение. Кто сколько потратил и какие данные ушли наружу, собирается вручную.
Агенты и приложения
свой ключ на проект
Редакторы и CLI
настраиваемый адрес API
Конвейеры и скрипты
вызов по расписанию
AKI.Gate в контуре компании
один адрес, ключи и права на модели, пределы расходов, учет каждого запроса
Свои серверы моделей
инференс на мощностях компании
Внешние поставщики
только те, что разрешены
Приложение знает один адрес. Какая модель и чей сервер за ним - вопрос настройки шлюза, а не правки кода.
Подключение
Меняется адрес и ключ - остальной код остается
Шлюз говорит на интерфейсе OpenAI, поэтому штатные библиотеки работают с ним напрямую. Для клиентов Anthropic есть отдельный маршрут сообщений. Имя модели берется из каталога шлюза и должно быть разрешено вашему ключу.
// Python, библиотека openai
client = OpenAI(
api_key=os.environ["AKI_GATE_API_KEY"],
base_url="https://gate.company.local/v1",
)
→
дальше - привычный вызов chat.completions.create с именем модели из каталога
Базовый адрес
один адрес на все модели - адрес шлюза в вашей сети; на открытом стенде это https://akigate.ru/v1
Интерфейсы
совместимый с OpenAI и маршрут сообщений Anthropic - клиент выбирает тот, который уже умеет
Операции
генерация текста и кода, векторные представления, переранжирование результатов поиска, изображения; работа с
речью и видео - отдельными маршрутами
Список моделей
запрос списка возвращает то, что разрешено конкретному ключу, - приложение не угадывает состав
Схема API
описание в формате OpenAPI; примеры на шести языках и в виде команд cURL
Потоковая выдача
поддерживается там, где ее поддерживает сама модель
Инструменты
Подключается к тому, с чем команда уже работает
Любой инструмент, который позволяет задать адрес API и ключ, работает со шлюзом. Для распространенных помощников разработчика настройки описаны по шагам.
Агенты в терминале
Claude Code, Codex CLI, OpenCode, Aider. Готовые настройки подключения с выбором модели под задачу.
Расширения редакторов
Cline для VS Code, Continue для VS Code и среды JetBrains.
Свой код
Примеры для Python, JavaScript, Kotlin, PHP, Go и команд cURL - для текста, речи и видео.
Модули AKI
AKI и AKI.Code обращаются к моделям по тому же интерфейсу - шлюз становится для них единой точкой доступа.
Открыть AKI.Code
Учет и пределы
Видно, кто сколько потратил, и задано, сколько он может
Ключ - единица управления. Эксперимент, продуктовая функция и сборочный конвейер получают разные ключи: ошибка в одном не расходует бюджет остальных, а потребление собирается в разрезе ключей и моделей.
Пределы расходов
на ключ - за день, за неделю и за месяц
Набор моделей
ключу разрешается только то, что ему нужно; остальное недоступно
Блокировка
ключ отключается без остановки остальных приложений
Журнал использования
запросы и расход по ключам и моделям
Состав каталога
какие модели опубликованы и кому они доступны, решает администратор шлюза
Содержимое запросов
при работе со своими серверами моделей запрос остается в контуре; наружу уходит только то, что направлено
разрешенному внешнему поставщику
Место в инфраструктуре
Управление - в интерфейсе, а не в конфигурации
Модели, ключи, права и пределы задаются в кабинете. Выдать доступ новой команде - не задача на
развертывание.
Учет встроен
Расход считается по каждому запросу и собирается по ключам и моделям - без отдельного конвейера сбора
метрик.
Работает на ваших моделях
За шлюзом стоят серверы инференса компании; внешние поставщики подключаются отдельно и только те, которые
разрешены.
Та же роль, под которую обычно берут LiteLLM
Прослойку перед моделями чаще всего собирают сами: открытый прокси, конфигурация в репозитории и скрипты учета сверху. AKI.Gate закрывает ту же роль готовой системой - с кабинетом, правами, пределами и журналом, которые не нужно дописывать и поддерживать своими силами.
Открытый стенд
akigate.ru - тот же шлюз, доступный снаружи
Чтобы посмотреть, как шлюз ведет себя в работе, разворачивать ничего не нужно: akigate.ru - это AKI.Gate, открытый в интернет. Регистрация, ключ, подключение инструмента и первый запрос занимают несколько минут - дальше видно кабинет, каталог, пределы расходов и журнал использования.
[ОТКРЫТЫЙ СТЕНД]
Что на стенде можно проверить
Подключение своего инструмента к шлюзу, поведение под вашей нагрузкой, работу пределов и журнала. В каталоге
опубликовано более 90 моделей разных поставщиков, часть из них размещена в России; оплата по использованию,
баланс в рублях.
Перейти на akigate.ru
[ПОСТАВКА В КОНТУР]
Чем отличается установка у вас
Шлюз работает на серверах организации, каталог моделей собираете вы, ключи и журнал остаются внутри. Внешние
поставщики подключаются по решению компании - вплоть до их полного отсутствия. Состав поставки и требования
к инфраструктуре - по запросу.
Обсудить установку