---
title: 'Масштабировать inference-сервис'
sidebar_label: 'Масштабировать inference-сервис'
sidebar_position: 2
description: 'Как масштабировать inference-сервис и изменить количество inference-инстансов'
---

import Tabs from '@theme/Tabs';
import TabItem from '@theme/TabItem';
import {TabItemLabel} from '@selectel/docux/components';
import Formbricks from '@theme/MDXComponents/Formbricks';

# Масштабировать inference-сервис

Чтобы оптимально использовать ресурсы inference-сервиса, вы можете масштабировать его в зависимости от нагрузки:

* настроить фиксированное количество inference-инстансов — развернутых экземпляров моделей.
  Например, увеличить количество inference-инстансов при росте числа запросов или уменьшить, если количество запросов снизилось;

* или настроить автомасштабирование.
  Количество inference-инстансов будет автоматически меняться в указанном диапазоне в зависимости от числа запросов и времени их обработки.

Чтобы масштабировать inference-сервис, [измените количество inference-инстансов](#change-number-of-inference-instances).

## Изменить количество inference-инстансов \{#change-number-of-inference-instances}

Вы можете использовать фиксированное количество inference-инстансов или настроить автомасштабирование.

<Tabs queryString="change-number-of-inference-instances">
  <TabItem value="fixed-quantity">
    <TabItemLabel>
      Фиксированное количество
    </TabItemLabel>

    1. В [панели управления](https://my.selectel.ru/ml/default/inference-services/) в верхнем меню нажмите **Продукты** и выберите **Inference-сервисы**.

    2. Откройте страницу inference-сервиса → вкладка **Сервис**.

    3. В блоке **Автомасштабирование сервиса** нажмите **Изменить**.

    4. Откройте вкладку **Фиксированное** и укажите количество inference-инстансов.

    5. Нажмите **Сохранить**.
       Изменение настроек масштабирования может занимать более 10 минут.
       В течение этого времени inference-сервис будет недоступен.
  </TabItem>

  <TabItem value="autoscaling">
    <TabItemLabel>
      Автомасштабирование
    </TabItemLabel>

    1. В [панели управления](https://my.selectel.ru/ml/default/inference-services/) в верхнем меню нажмите **Продукты** и выберите **Inference-сервисы**.

    2. Откройте страницу inference-сервиса → вкладка **Сервис**.

    3. В блоке **Автомасштабирование сервиса** нажмите **Изменить**.

    4. Откройте вкладку **С автомасштабированием** и установите минимальное и максимальное количество inference-инстансов.
       Количество inference-инстансов будет автоматически меняться в указанном диапазоне в зависимости от числа запросов к модели и времени их обработки.

    5. Нажмите **Сохранить**.
       Изменение настроек масштабирования может занимать более 10 минут.
       В течение этого времени inference-сервис будет недоступен.
  </TabItem>
</Tabs>

<Formbricks />