Перейти к основному содержимому

Описание продукта Token Factory

к сведению

Продукт находится на стадии ограниченного тестирования (private preview).

Token Factory – это сервис для единого доступа к генеративным ИИ-моделям в контуре Selectel без необходимости развертывания инфраструктуры. Он позволяет работать с доступными моделями через единый интерфейс с оплатой по токенам, централизованно управлять ключами доступа, а также получать общую отчетность и аналитику по их использованию.

Token Factory предоставляет доступ только к моделям, развернутым на инфраструктуре Selectel. Если вам нужен доступ к моделям от внешних провайдеров, используйте ИИ-роутер.

Для работы с Token Factory поддерживаются проекты.

Решаемые задачи

  • подключение моделей через один публичный OpenAI-совместимый API-ключ;
  • оплата моделей с одного баланса;
  • контроль потребления через детализированную аналитику в режиме реального времени.

Принцип работы

Token Factory выступает в качестве универсального шлюза между вашим приложением и моделями, развернутыми на инфраструктуре Selectel. Сервис отправляет запросы к моделям по OpenAI-совместимому API, подробнее в официальной документации OpenAI Developers. Настраивать интеграции с каждой моделью отдельно не требуется — достаточно использовать в запросах API-ключ Token Factory.

Как работать с Token Factory

Чтобы начать работу, создайте заявку на тестирование Token Factory, подробнее в инструкции Token Factory: Быстрый старт.

После получения доступа к Token Factory вы можете:

Доступные модели

Посмотреть актуальный перечень моделей, их характеристики и цены на токены можно в панели управления: в верхнем меню нажмите Продукты → Token Factory → вкладка Каталог моделей.

Зоны ответственности

Selectel обеспечивает

  • доступ к моделям через публичный OpenAI-совместимый API;
  • систему мониторинга Token Factory в панели управления;
  • аналитику потребления;
  • возможность управления API-ключами;
  • техническую поддержку.

Selectel не несет ответственность

  • за содержание и использование ответов моделей;
  • работоспособность запросов, выполненных с API-ключами;
  • обработку персональных данных в рамках сервиса;
  • интеграцию моделей в ваши проекты;
  • бизнес-логику работы моделей в ваших проектах.

Защита API-ключей от компрометации находится в вашей зоне ответственности.

Стоимость

Token Factory оплачивается по модели pay-as-you-go. С баланса каждый час списываются средства за потребленные токены за предыдущий час, подробнее в инструкции Модель оплаты и цены Token Factory.

Лимиты и ограничения

В одном проекте можно создать не более десяти API-ключей.

В Token Factory не поддерживается:

  • доступ к ИИ-моделям от внешних провайдеров;
  • возможность обучения моделей;
  • загрузка собственных моделей в каталог;
  • развертывание моделей из каталога On-Premises, в А-ЦОД, на выделенных серверах и в аттестованном облаке.