Работа с inference-сервисом
Режимы взаимодействия с inference-сервисом
Какие режимы взаимодействия с inference-сервисом поддерживаются, как отправить запросы к модели
Управлять API-ключами
Как добавить, удалить, переименовать API-ключ
Масштабировать inference-сервис
Как масштабировать inference-сервис и изменить количество inference-инстансов
Настроить приватное подключение через облачный сервер
Как настроить приватное подключение к inference-сервису через облачный сервер
Настроить публичное подключение через Open WebUI
Как настроить публичное подключение к inference-сервису и взаимодействовать с моделью в веб-интерфейсе Open WebUI