---
title: 'Foundation Models Catalog: Быстрый старт'
sidebar_label: 'Быстрый старт'
sidebar_position: 2
description: 'Как начать работу с Foundation Models Catalog: создать inference-сервис и подключиться к нему'
---

import CopyIcon from '@selectel/docux/icons/copy';
import EyeIcon from '@selectel/docux/icons/eye';
import Tabs from '@theme/Tabs';
import TabItem from '@theme/TabItem';
import {TabItemLabel} from '@selectel/docux/components';
import Formbricks from '@theme/MDXComponents/Formbricks';

# Foundation Models Catalog: Быстрый старт

1. [Создайте inference-сервис](#create-inference-service).
2. [Отправьте тестовый запрос к модели](#send-request).

## 1. Создать inference-сервис \{#create-inference-service}

1. [Выберите модель](#select-model).
2. [Настройте инфраструктуру](#configure-infrastructure).
3. [Настройте inference-сервис](#configure-inference-service).
4. [Подтвердите конфигурацию](#confirm-configuration).

### 1. Выбрать модель \{#select-model}

1. В [панели управления](https://my.selectel.ru/ml/default/models-catalog/) в верхнем меню нажмите **Продукты** и выберите **Foundation Models Catalog**.

2. Выберите [локацию](/infrastructure/locations.mdx).
   После создания inference-сервиса изменить локацию нельзя.

3. В карточке модели нажмите **Создать**.

4. Введите имя inference-сервиса.

5. Чтобы фильтровать inference-сервисы в списке, добавьте теги.
   Автоматически добавляется тег с названием модели.
   Чтобы добавить новый тег, в поле **Теги** введите тег и нажмите **Enter**.

6. Опционально: введите описание inference-сервиса.
   Например, укажите его назначение.

7. Нажмите **Продолжить**.

### 2. Настроить инфраструктуру \{#configure-infrastructure}

1. Задайте [параметры модели](/foundation-models-catalog/create/model-parametrs.mdx).

   1.1. Выберите тип данных для KV-кэша.

   1.2. Выберите максимальную длину контекста.

2. Выберите [конфигурацию inference-сервиса](/foundation-models-catalog/create/configurations.mdx).
   При выборе учитывайте ожидаемые [метрики производительности модели](/foundation-models-catalog/create/metrics.mdx).

   После создания inference-сервиса конфигурацию изменить нельзя.

3. Нажмите **Продолжить**.

### 3. Настроить inference-сервис \{#configure-inference-service}

1. Настройте количество inference-инстансов.

   1.1. Чтобы в сервисе было фиксированное количество инстансов, откройте вкладку **Фиксированное** и укажите количество инстансов.

   1.2. Чтобы в сервисе использовалось автомасштабирование, откройте вкладку **С автомасштабированием** и установите минимальное и максимальное количество инстансов.
   Количество инстансов будет меняться автоматически только в указанном диапазоне в зависимости от нагрузки на inference-сервис.

   Вы можете [изменить количество inference-инстансов](/foundation-models-catalog/manage/resize-inference-service.mdx#change-number-of-inference-instances) после создания inference-сервиса.
   Подробнее в инструкции [Масштабировать inference-сервис](/foundation-models-catalog/manage/resize-inference-service.mdx).

2. Выберите тип диска для inference-инстанса.

3. Выберите [тип подключения к inference-сервису](/foundation-models-catalog/create/connection-types.mdx):

   * публичный — доступ по публичному эндпоинту из интернета;

   * приватный — доступ по приватному эндпоинту только из устройств облачной платформы, созданных в подсети inference-сервиса.

   После создания inference-сервиса тип подключения изменить нельзя.

4. Нажмите **Продолжить**.

### 4. Подтвердить конфигурацию \{#confirm-configuration}

1. Проверьте итоговую конфигурацию inference-сервиса.

2. Проверьте цену inference-сервиса.

3. Нажмите **Создать Inference-сервис**.
   Создание inference-сервиса может занимать около 15 минут.

## 2. Отправить тестовый запрос к модели \{#send-request}

Структура данных запроса зависит от модели, типа API и вида запроса.
Примеры тестовых запросов к модели можно скопировать в [панели управления](https://my.selectel.ru/ml/default/inference-services/): в верхнем меню нажмите **Продукты** → **Inference-сервисы** → страница inference-сервиса → вкладка **Быстрый старт** → в блоке **Тестовый запрос** нажмите <CopyIcon />.

Подробнее про виды запросов и типы API в инструкции [Режимы взаимодействия с inference-сервисом](/foundation-models-catalog/manage/interaction-modes.mdx).

<Formbricks />