Перейти к основному содержимому
Создать облачный сервер с GPU
Последнее изменение:

Создать облачный сервер с GPU

К облачному серверу можно добавить GPU (графические процессоры) — при создании сервера или к существующему серверу.

GPU используются как выделенные PCI-устройства внутри облачного сервера.

Графические процессоры доступны:

Конфигурации с GPU можно использовать только с сетевым загрузочным диском сервера.

Создать сервер с GPU

Используйте инструкцию Создать облачный сервер.

Выберите:

  • источник — готовый образ Ubuntu 22.04 LTS Machine Learning 64-bit. Образ содержит драйверы, необходимые для работы с графическими процессорами. Если выберете другой источник, для стабильной работы GPU NVIDIA® нужно установить драйверы на сервере самостоятельно;
  • конфигурацию — фиксированную конфигурацию линейки GPU Line или произвольную конфигурацию от 2 vCPU.

Добавить GPU к существующему облачному серверу

Если у облачного сервера произвольная конфигурация и сетевой загрузочный диск, к нему можно добавить графические процессоры.

  1. В панели управления перейдите в раздел Облачная платформаСерверы.
  2. Откройте страницу сервера → вкладка Конфигурация.
  3. Нажмите Изменить конфигурацию.
  4. Убедитесь, что в блоке Изменение конфигурации выбрана произвольная конфигурация.
  5. Нажмите Добавить GPU. Если у сервера 1 vCPU, значение автоматически изменится на 2 vCPU.
  6. Выберите тип GPU.
  7. Укажите количество GPU.
  8. Нажмите Сохранить и перезагрузить.
  9. Если сервер создан не из готового образа Ubuntu 22.04 LTS Machine Learning 64-bit с драйверами, для стабильной работы GPU NVIDIA® установите драйверы на сервере самостоятельно.

Доступные GPU

NVIDIA® A100

NVIDIA® A100 NVLink (по запросу)
NVIDIA® Tesla T4NVIDIA® A30NVIDIA® A2
(обновленный аналог
NVIDIA® Tesla T4)
NVIDIA® GTX 1080NVIDIA® RTX 2080NVIDIA® A2000
(аналог RTX 3060)
NVIDIA® A5000
(аналог RTX 3080)
Память40 ГБ
HBM2
16 ГБ
GDDR6
24 ГБ
HBM2
16 ГБ
GDDR6
8 ГБ
GDDR5X
8 ГБ
GDDR6
6 ГБ
GDDR6
24 ГБ
GDDR6
CUDA ядра61922560380412802560294433288192
Тензорные ядра43232022440104256

Посмотреть актуальный список GPU можно в панели управления: в разделе Облачная платформаСерверы → нажмите Создать сервер.

Посмотреть доступность GPU в регионах можно в матрице доступности GPU для облачных серверов.

NVIDIA® A100

Обладает максимальной производительностью для AI, HPC и обработки данных. Подходит для глубокого обучения, научных исследований и аналитики данных.

На базе архитектуры Ampere®, пропускная способность до 2 ТБ/с. Посмотрите подробные характеристики в документации NVIDIA®.

В фиксированных конфигурациях GPU Line доступно от 1 до 8 GPU × 40 ГБ, при vCPU от 6 до 48, RAM от 87 до 700 ГБ.

В произвольных конфигурациях — от 1 до 8 GPU × 40 ГБ, при vCPU от 2 до 32, RAM от 512 МБ до 256 ГБ.

Вы можете объединить два графических процессора NVIDIA® A100 с помощью технологии NVLink.

NVLink ускоряет скорость обмена данными при объединении GPU по сравнению с интерфейсом PCIe. Графические процессоры, объединенные NVLink, позволяют использовать больше памяти и повышают производительность сервера для выполнения сложных вычислений, например обучения больших языковых ML-моделей.

NVLink работает с NVIDIA® A100 — графические процессоры на базе архитектуры Ampere® с пропускной способностью до 2 ТБ/с. Посмотрите подробные характеристики NVIDIA® A100 и описание технологии NVLink в документации NVIDIA®.

NVIDIA® A100 NVLink доступны по запросу — создайте тикет.

NVIDIA® Tesla T4

Подходит для Machine Learning и Deep Learning, инференса, работы с графикой и рендерингом видео. Работает с большинством AI-фреймворков и совместима со всеми типами нейросетей.

На базе архитектуры Turing®, пропускная способность до 300 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.

В фиксированных конфигурациях GPU Line доступно от 1 до 4 GPU × 16 ГБ, при vCPU от 4 до 24, RAM от 32 до 320 ГБ.

В произвольных конфигурациях — от 1 до 4 GPU × 16 ГБ, при vCPU от 2 до 32, RAM от 512 МБ до 256 ГБ.

NVIDIA® A30

Подходит для AI-инференса, HPC, обработки языка, разговорного искусственного интеллекта, рекомендательных систем.

На базе архитектуры Ampere®, пропускная способность до 933 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.

В фиксированных конфигурациях GPU Line доступно от 1 до 2 GPU, при vCPU от 16 до 48, RAM от 64 до 320 ГБ.

В произвольных конфигурациях — от 1 до 2 GPU, при vCPU от 2 до 32, RAM от 512 МБ до 256 ГБ.

NVIDIA® A2

GPU для начального уровня. Подходит для простого инференса, видео и графики, Edge AI (периферийных вычислений), Edge-видео, мобильного облачного гейминга.

На базе архитектуры Ampere®, пропускная способность до 200 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.

В фиксированных конфигурациях GPU Line доступно от 1 до 4 GPU × 16 ГБ, при vCPU от 12 до 48, RAM от 32 до 320 ГБ.

В произвольных конфигурациях — от 1 до 4 GPU × 16 ГБ, при vCPU от 2 до 32, RAM от 512 МБ до 256 ГБ.

NVIDIA® GTX 1080

Производительный и энергоэффективный GPU. Решение реализовано с помощью технологии FinFET и памяти GDDR5X. Динамическая балансировка нагрузки помогает разделять задачи, чтобы ресурсы не простаивали в ожидании. Обладает максимальной производительностью для отображения информации, VR, параметров ультра высокого разрешения и обработки данных.

На базе архитектуры Pascal®, пропускная способность до 320 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.

В фиксированных конфигурациях GPU Line доступно от 1 до 8 GPU × 8 ГБ, при vCPU от 8 до 28, RAM от 24 до 96 ГБ.

В произвольных конфигурациях — от 1 до 8 GPU × 8 ГБ, при vCPU от 2 до 32, RAM от 512 МБ до 256 ГБ.

NVIDIA® RTX 2080

Высокопроизводительный GPU с мощной аппаратной архитектурой для обработки сложных вычислений и графики в высоком разрешении. Подходит для монтажа видео, создания 3D-моделей, рендеринга, монтажа видео и обработки фотографий. По сравнению с NVIDIA® GTX 1080 поддерживает технологии трассировки в реальном времени и DLSS (Deep Learning Super Sampling).

На базе архитектуры Turing®, пропускная способность до 448 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.

В фиксированных конфигурациях GPU Line доступно от 1 до 4 GPU × 8 ГБ, при vCPU от 2 до 48, RAM от 32 до 320 ГБ.

В произвольных конфигурациях — от 1 до 4 GPU × ГБ, при vCPU от 2 до 32, RAM от 512 МБ до 256 ГБ.

NVIDIA® A2000

Энергоэффективный GPU для компактных рабочих станций. Подойдет для AI, графики и рендеринга видео.

На базе архитектуры Ampere®, пропускная способность до 288 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.

В фиксированных конфигурациях GPU Line доступно от 1 до 4 GPU × 6 ГБ, при vCPU от 6 до 24, RAM от 16 до 320 ГБ.

В произвольных конфигурациях — от 1 до 4 GPU × 6 ГБ, при vCPU от 2 до 32, RAM от 512 МБ до 256 ГБ.

NVIDIA® A5000

Универсальный GPU, подходит для любых задач в рамках своей производительности.

На базе архитектуры Ampere®, пропускная способность до 768 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.

В фиксированных конфигурациях GPU Line доступно от 1 до 2 GPU × 24 ГБ, при vCPU от 8 до 48, RAM от 32 до 320 ГБ.

В произвольных конфигурациях — от 1 до 2 GPU × 24 ГБ, при vCPU от 2 до 32, RAM от 512 МБ до 256 ГБ.