Создать кластер Managed Kubernetes с GPU
При создании кластера Managed Kubernetes вы можете добавить к нему графические процессоры — для этого в качестве конфигурации выберите фиксированную конфигурацию ноды с GPU.
На нодах с GPU предустановлены драйверы от NVIDIA®.
Конфигурации с GPU доступны только в пулах ru-1, ru-2, ru-3, ru-7, ru-8 и ru-9.
Для групп нод с GPU недоступно автоматическое масштабирование кластера.
Создать кластер с GPU
- В панели управления перейдите в раздел Облачная платформа → Kubernetes.
- Нажмите Создать кластер.
- Выберите фиксированную конфигурацию группы нод с GPU.
- Выберите остальные настройки кластера (подробнее в инструкции Создать кластер Managed Kubernetes) и нажмите Создать.
Производительность и доступность
| GPU | Память | CUDA ядра | Тензорные ядра | ru-1 | ru-3 | ru-9 | ru-2 | ru-7 | ru-8 | uz-1 |
|---|---|---|---|---|---|---|---|---|---|---|
| NVIDIA® A100 | 40 ГБ HBM2 | 6192 | 432 | ru-9a | ru-7a | |||||
| NVIDIA® Tesla T4 | 16 ГБ GDDR6 | 2560 | 320 | ru-9a | ru-2c | ru-7a | ||||
| NVIDIA® A30 | 24 ГБ HBM2 | 3804 | 224 | ru-7a | ||||||
| NVIDIA® A2 (обновленный аналог NVIDIA® Tesla T4) | 16 ГБ GDDR6 | 1280 | 40 | ru-7a | ||||||
| NVIDIA® A2000 (аналог RTX 3060) | 6 ГБ GDDR6 | 3328 | 104 | ru-7a | ||||||
| NVIDIA® A5000 (аналог RTX 3080) | 24 ГБ GDDR6 | 8192 | 256 | ru-7a |
NVIDIA® A100
Обладает максимальной производительностью для AI, HPC и обработки данных. Подходит для глубокого обучения, научных исследований и аналитики данных.
На базе Ampere®, пропускная способность до 2 ТБ/с. Посмотрите подробные характеристики.
В фиксированных конфигурациях кластера Managed Kubernetes доступно от 1 до 8 GPU х 40 ГБ, при vCPU от 6 до 48, RAM от 88 до 704 ГБ.
NVIDIA® Tesla T4
Подходит для Machine Learning и Deep Learning, инференса, работы с графикой и рендерингом видео. Работает с большинством AI-фреймворков и совместима со всеми типами нейросетей.
На базе Turing®, пропускная способность до 300 ГБ/с. Посмотрите подробные характеристики.
В фиксированных конфигурациях кластера Managed Kubernetes доступно от 1 до 4 GPU х 16 ГБ, при vCPU от 4 до 24, RAM от 32 до 320 ГБ.
NVIDIA® A30
Подходит для AI-инференса, HPC, обработки языка, разговорного искусственного интеллекта, рекомендательных систем.
На базе Ampere®, пропускная способность до 933 ГБ/с. Посмотрите подробные характеристики.
В фиксированных конфигурациях кластера Managed Kubernetes доступно от 1 до 2 GPU, при vCPU от 24 до 48, RAM от 192 до 320 ГБ.
NVIDIA® A2
GPU для начального уровня. Подходит для простого инференса, видео и графики, Edge AI (периферийных вычислений), Edge-видео, мобильного облачного гейминга.
На базе Ampere®, пропускная способность до 200 ГБ/с. Посмотрите подробные характеристики.
В фиксированных конфигурациях кластера Managed Kubernetes доступно от 1 до 4 GPU х 16 ГБ, при vCPU от 12 до 48, RAM от 96 до 320 ГБ.
NVIDIA® A2000
Энергоэффективный GPU для компактных рабочих станций. Подойдет для AI, графики и рендеринга видео.
На базе Ampere®, пропускная способность до 288 ГБ/с. Посмотрите подробные характеристики.
В фиксированных конфигурациях кластера Managed Kubernetes доступно от 1 до 4 GPU х 6 ГБ, при vCPU от 6 до 24, RAM от 96 до 320 ГБ.
NVIDIA® A5000
Универсальный GPU, подходит для любых задач в рамках своей производительности.
На базе Ampere®, пропускная способность до 768 ГБ/с. Посмотрите подробные характеристики.
В фиксированных конфигурациях кластера Managed Kubernetes доступно от 1 до 2 GPU х 24 ГБ, при vCPU от 24 до 48, RAM от 192 до 320 ГБ.