---
title: 'Создать inference-сервис'
sidebar_label: 'Создать inference-сервис'
sidebar_position: 5
description: 'Как создать inference-сервис'
---

import Formbricks from '@theme/MDXComponents/Formbricks';

# Создать inference-сервис

1. [Выберите модель](#select-model).
2. [Настройте инфраструктуру](#configure-infrastructure).
3. [Настройте inference-сервис](#configure-inference-service).
4. [Подтвердите конфигурацию](#confirm-configuration).

## 1. Выбрать модель \{#select-model}

1. В [панели управления](https://my.selectel.ru/ml/default/models-catalog/) в верхнем меню нажмите **Продукты** и выберите **Foundation Models Catalog**.

2. Выберите [локацию](/infrastructure/locations.mdx).
   После создания inference-сервиса изменить локацию нельзя.

3. В карточке модели нажмите **Создать**.

4. Введите имя inference-сервиса.

5. Чтобы фильтровать inference-сервисы в списке, добавьте теги.
   Автоматически добавляется тег с названием модели.
   Чтобы добавить новый тег, в поле **Теги** введите тег и нажмите **Enter**.

6. Опционально: введите описание inference-сервиса.
   Например, укажите его назначение.

7. Нажмите **Продолжить**.

## 2. Настроить инфраструктуру \{#configure-infrastructure}

1. Задайте [параметры модели](/foundation-models-catalog/create/model-parametrs.mdx).

   1.1. Выберите тип данных для KV-кэша.

   1.2. Выберите максимальную длину контекста.

2. Выберите [конфигурацию inference-сервиса](/foundation-models-catalog/create/configurations.mdx).
   При выборе учитывайте ожидаемые [метрики производительности модели](/foundation-models-catalog/create/metrics.mdx).

   После создания inference-сервиса конфигурацию изменить нельзя.

3. Нажмите **Продолжить**.

## 3. Настроить inference-сервис \{#configure-inference-service}

1. Настройте количество inference-инстансов.

   1.1. Чтобы в сервисе было фиксированное количество инстансов, откройте вкладку **Фиксированное** и укажите количество инстансов.

   1.2. Чтобы в сервисе использовалось автомасштабирование, откройте вкладку **С автомасштабированием** и установите минимальное и максимальное количество инстансов.
   Количество инстансов будет меняться автоматически только в указанном диапазоне в зависимости от нагрузки на inference-сервис.

   Вы можете [изменить количество inference-инстансов](/foundation-models-catalog/manage/resize-inference-service.mdx#change-number-of-inference-instances) после создания inference-сервиса.
   Подробнее в инструкции [Масштабировать inference-сервис](/foundation-models-catalog/manage/resize-inference-service.mdx).

2. Выберите тип диска для inference-инстанса.

3. Выберите [тип подключения к inference-сервису](/foundation-models-catalog/create/connection-types.mdx):

   * публичный — доступ по публичному эндпоинту из интернета;

   * приватный — доступ по приватному эндпоинту только с устройств в приватной подсети inference-сервиса.

   После создания inference-сервиса тип подключения изменить нельзя.

4. Нажмите **Продолжить**.

## 4. Подтвердить конфигурацию \{#confirm-configuration}

1. Проверьте итоговую конфигурацию inference-сервиса.

2. Проверьте цену inference-сервиса.

3. Нажмите **Создать Inference-сервис**.
   Создание inference-сервиса может занимать около 15 минут.

<Formbricks />