Создать облачный сервер с GPU
К облачному серверу можно добавить графические процессоры — при создании сервера или после создания.
GPU используются как выделенные PCI-устройства внутри облачного сервера.
Графические процессоры доступны:
- в фиксированных конфигурациях линейки GPU Line;
- и произвольных конфигурациях — только NVIDIA® A100 в сегменте пула ru-7a.
Конфигурации с GPU можно использовать только с сетевым загрузочным диском сервера.
Создать сервер с GPU
В панели управления перейдите в раздел Облачная платформа → Серверы.
Нажмите Создать сервер.
Выберите готовый образ Ubuntu 22.04 LTS Machine Learning 64-bit — в нем есть драйверы, необходимые для работы с графическими процессорами. Если выбрать другой источник, драйверы нужно будет установить самостоятельно.
Выберите конфигурацию облачного сервера:
- фиксированную — линейку GPU Line;
- или произвольную. Нажмите Добавить GPU A100. Укажите количество GPU.
Выберите остальные настройки сервера — подробнее в инструкции Создать облачный сервер.
Нажмите Создать.
Добавить GPU к созданному серверу
После создания облачного сервера к нему можно добавить графические процессоры, если:
- у сервера произвольная конфигурация;
- сетевой загрузочный диск;
- сервер находится в сегменте пула ru-7a.
- В панели управления перейдите в раздел Облачная платформа → Серверы.
- Откройте страницу сервера → вкладка Конфигурация.
- Нажмите Изменить конфигурацию.
- Выберите произвольную конфигурацию.
- Нажмите Добавить GPU A100.
- Укажите количество GPU.
- Нажмите Сохранить и перезагрузить.
Доступные GPU
Посмотреть список актуальных GPU можно в панели управления в разделе Облачная платформа → Серверы → нажмите Создать сервер.
Посмотреть доступность GPU в регионах можно в матрице доступности GPU для облачных серверов.
NVIDIA® A100
Обладает максимальной производительностью для AI, HPC и обработки данных. Подходит для глубокого обучения, научных исследований и аналитики данных.
На базе Ampere®, пропускная способность до 2 ТБ/с. Посмотрите подробные характеристики в документации NVIDIA®.
В фиксированных конфигурациях GPU Line доступно от 1 до 8 GPU × 40 ГБ, при vCPU от 6 до 48, RAM от 87 до 700 ГБ.
В произвольных конфигурациях — от 1 до 8 GPU × 40 ГБ, при vCPU от 1 до 32, RAM от 512 МБ до 256 ГБ.
NVIDIA® A100 NVLink
Вы можете объединить два графических процессора NVIDIA® A100 с помощью технологии NVLink.
NVLink ускоряет скорость обмена данными при объединении GPU по сравнению с интерфейсом PCIe. Графические процессоры, объединенные NVLink, позволяют использовать больше памяти и повышают производительность сервера для выполнения сложных вычислений, например обучения больших языковых ML-моделей.
NVLink работает с NVIDIA® A100 — графические процессоры на базе Ampere® с пропускной способностью до 2 ТБ/с. Посмотрите подробные характеристики NVIDIA® A100 и описание технологии NVLink в документации NVIDIA®.
В фиксированных конфигурациях GPU Line доступно 2 GPU × 40 ГБ, при 24 vCPU, 128 ГБ RAM. Если нужны конфигурации с бóльшим количеством ресурсов, создайте тикет.
NVIDIA® Tesla T4
Подходит для Machine Learning и Deep Learning, инференса, работы с графикой и рендерингом видео. Работает с большинством AI-фреймворков и совместима со всеми типами нейросетей.
На базе Turing®, пропускная способность до 300 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.
В фиксированных конфигурациях GPU Line доступно от 1 до 4 GPU × 16 ГБ, при vCPU от 4 до 24, RAM от 32 до 320 ГБ.
NVIDIA® A30
Подходит для AI-инференса, HPC, обработки языка, разговорного искусственного интеллекта, рекомендательных систем.
На базе Ampere®, пропускная способность до 933 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.
В фиксированных конфигурациях GPU Line доступно от 1 до 2 GPU, при vCPU от 16 до 48, RAM от 64 до 320 ГБ.
NVIDIA® A2
GPU для начального уровня. Подходит для простого инференса, видео и графики, Edge AI (периферийных вычислений), Edge-видео, мобильного облачного гейминга.
На базе Ampere®, пропускная способность до 200 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.
В фиксированных конфигурациях GPU Line доступно от 1 до 4 GPU × 16 ГБ, при vCPU от 12 до 48, RAM от 32 до 320 ГБ.
NVIDIA® GTX 1080
Производительная и энергоэффективная GPU. Решение реализовано с помощью технологии FinFET и памяти GDDR5X. Динамическая балансировка нагрузки помогает разделять задачи, чтобы ресурсы не простаивали в ожидании. Обладает максимальной производительностью для отображения информации, VR, параметров ультра высокого разрешения и обработки данных.
На базе Pascal®, пропускная способность до 320.3 Гб/с. Посмотрите подробные характеристики в документации NVIDIA®.
В фиксированных конфигурациях GPU Line доступно от 1 до 8 GPU × 8 ГБ, при vCPU от 8 до 28, RAM от 24 до 96 ГБ.
NVIDIA® A2000
Энергоэффективный GPU для компактных рабочих станций. Подойдет для AI, графики и рендеринга видео.
На базе Ampere®, пропускная способность до 288 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.
В фиксированных конфигурациях GPU Line доступно от 1 до 4 GPU × 6 ГБ, при vCPU от 6 до 24, RAM от 16 до 320 ГБ.
NVIDIA® A5000
Универсальный GPU, подходит для любых задач в рамках своей производительности.
На базе Ampere®, пропускная способность до 768 ГБ/с. Посмотрите подробные характеристики в документации NVIDIA®.
В фиксированных конфигурациях GPU Line доступно от 1 до 2 GPU × 24 ГБ, при vCPU от 8 до 48, RAM от 32 до 320 ГБ.