Cloud server with Aim VM
Aim Virtual Machine is a preconfigured cloud server with a tool for tracking machine learning (ML) experiments. The tool allows you to compare models, analyze metrics, and manage ML experiments.
The image from which the server is deployed contains:
-
Aim — a tool for tracking ML experiments;
-
Docker — a platform for running containerized applications;
-
Docker Compose — a tool for running multi-container applications in Docker;
-
nginx — a web server and reverse proxy;
-
drivers required for working with graphics processing units (GPU).
Before creating a server, please review the software license agreements included in the image.
Tasks solved
-
experiment logging — recording metrics, hyperparameters, and artifacts throughout the model training process;
-
visualizing experiment results and comparing data via the Aim UI web interface.
Minimum resource requirements
Create a cloud server with Aim VM
-
In the Control panel, on the top menu, click Products and select Cloud Servers.
-
Click Create server.
-
Fill in the blocks:
-
Check the cloud server price.
-
Click Create.
Name and placement
-
Enter a server name. It will be set as the hostname in the operating system.
-
Select a location where the server will be created. The list of available server configurations and resource costs depend on the location. Once the server is created, you cannot change the location.
Source
-
Откройте вкладку Приложения.
-
Select Aim VM.
-
Optional: if you need a different current or archived application version, in the Version field, select the required version.
Configuration
Select a configuration from 2 vCPU, RAM starting from 4 GB and a boot disk size starting from 20 GB. For all lines, except Shared and Dedicated, two types of server configurations are available:
- prebuilt configurations — configuration lines with different specifications, in which the resource ratio is fixed;
- custom configurations — configurations in which any resource ratio can be specified.
Configurations use different processors depending on the line and pool segment. You can customize the selected configuration. After creating the server, you can change the configuration.
Prebuilt configuration
Custom configuration
-
Open the tab with the line.
-
Click Fixed.
-
Optional: вы можете настроить конфигурацию, если создаете сервер in сегменте мультизонального пула ru-6 or сегментах пулов ru-3b, ru-7a and ru-7b:
3.1. Разверните блок with описанием настроек конфигурации.
3.2. Optional: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Optional: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра. Подробнее in инструкции Выделенные ядра
3.4. Optional: если для сервера with выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Optional: если вы создаете сервер with выделенными ядрами and хотите разместить многопроцессорный сервер on одной NUMA-ноде, отметьте чекбокс Обязательное размещение on одной NUMA-ноде. Разместить on одной NUMA-ноде можно сервер with 4 vCPU and больше. Если ресурсы облачного сервера не получится разместить on одной ноде, он не создаcтся. Подробнее in подразделе Размещение on одной NUMA-ноде инструкции Выделенные ядра
-
Select a configuration.
-
If both local and network volumes are available in the selected configuration, select the disk to be used as the boot disk:
- локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер with локальным диском можно создать только из образов and приложений;
- network volume — do not select the Local SSD NVMe disk checkbox.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного in конфигурации — ядро операционной системы резервирует часть оперативной памяти in зависимости от версии ядра and дистрибутива. Выделенный объем on сервере можно проверить with помощью команды
sudo dmesg | grep Memory.
Volumes
-
Если при настройке конфигурации вы не отметили чекбокс Локальный SSD NVMe диск, in качестве загрузочного диска сервера будет использоваться первый указанный сетевой диск. Чтобы настроить его:
1.1. Выберите тип сетевого загрузочного диска.
1.2. Укажите размер сетевого загрузочного диска in ГБ or ТБ. Учитывайте лимиты сетевых дисков on максимальный размер.
1.3. Если вы выбрали тип диска Универсальный v2 or SSD Быстрый v2, укажите общее количество операций чтения and записи in IOPS. После создания диска вы можете изменить количество IOPS — уменьшить or увеличить. Количество изменений IOPS не ограничено.
-
Optional: add an additional network volume server :
2.1. Нажмите Добавить.
2.2. Выберите тип сетевого диска.
2.3. Specify the size of the network disk in GB or TB. Учитывайте лимиты сетевых дисков on максимальный размер.
2.4. Если вы выбрали тип диска Универсальный v2 or SSD Быстрый v2, укажите общее количество операций чтения and записи in IOPS. После создания диска вы можете изменить количество IOPS — уменьшить or увеличить. Количество изменений IOPS не ограничено.
After the server is created, you can attach new additional volumes.
Network
A server can be added to a new or existing subnet. A subnet can be:
- private — a subnet without internet access or with one static public IP address. The IP address connects to the server, which will be accessible from the internet;
- public — a subnet where all addresses are accessible from the internet.
Private subnet
Public subnet
-
Click Private subnet.
-
In the Public IP address for internet access field, select the subnet type:
- New public IP address — a private subnet with a static public IP address. Only the server to which the public IP address is attached will be accessible from the internet;
- No public IP address — a private subnet without internet access. It will not be possible to connect to the server from the internet, including via SSH or RDP.
-
To add a server to an existing private subnet:
3.1. Разверните блок with настройками приватной подсети.
3.2. В поле Подсеть выберите существующую подсеть.
3.3. В поле Приватный IP укажите приватный IP-адрес сервера. Для приватной подсети with публичным IP-адресом публичный адрес будет автоматически подключен к приватному адресу.
-
To add a server to a new private subnet of an existing network:
4.1. Разверните блок with настройками приватной подсети.
4.2. В поле Подсеть выберите Новая подсеть.
4.3. Optional: измените CIDR подсети.
4.4. Optional: включите тумблер DHCP.
4.5. Optional: in поле Шлюз измените IP-адрес шлюза по умолчанию.
4.6. В поле Сеть выберите существующую сеть, in которой будет создана подсеть, or Новая сеть. Для приватной подсети with публичным IP-адресом автоматически будет создан роутер
router-<network_name>, где<network_name>— имя сети.4.7. Если вы выбрали Новая сеть, введите имя сети.
-
To add a server to a new network and a private subnet:
5.1. Разверните блок with настройками приватной подсети.
5.2. Optional: измените CIDR подсети.
5.3. Optional: включите тумблер DHCP.
5.4. Optional: in поле Шлюз измените IP-адрес шлюза по умолчанию.
5.5. В поле Сеть выберите Новая сеть, чтобы создать новую сеть and приватную подсеть.
5.6 Введите имя сети. Для приватной подсети with публичным IP-адресом автоматически будет создан роутер
router-<network_name>, где<network_name>— имя сети.
Security
Выберите группы безопасности для фильтрации трафика on портах сервера. Без групп безопасности трафик будет запрещен. Если блок отсутствует, in сети сервера выключена фильтрация трафика (port security). С выключенной фильтрацией трафика весь трафик будет разрешен.
Access
-
Place an SSH key for the project on the server for secure connection:
1.1. Если SSH-ключ для проекта не добавлен in облачную платформу, нажмите Добавить SSH-ключ, введите имя ключа, вставьте публичный ключ in формате OpenSSH and нажмите Добавить.
1.2. Если SSH-ключ для проекта добавлен in облачную платформу, in поле SSH-ключ выберите существующий ключ. SSH-ключ доступен только in том пуле, in котором он размещен.
-
Optional: in the Password for root field:
2.1. Скопируйте пароль пользователя
root— пользователя with неограниченными правами on все действия над системой.2.2. Сохраните пароль in безопасном месте and не передавайте in открытом виде.
Additional settings
-
If you plan to create several servers and want to increase infrastructure fault tolerance, add the server to a placement group:
1.1. Чтобы создать новую группу, in поле Группа размещения нажмите Создать.
1.2. Выберите Новая группа and введите имя группы.
1.3. Выберите политику размещения on разных хостах:
- preferred — soft-anti-affinity. The system will try to host servers on different hosts. If there is no suitable host when creating the server, it will be created on the same host;
- mandatory — anti-affinity. Servers in the group must be hosted on different hosts. If there is no suitable host when creating the server, the server will not be created.
1.4. Если группа создана, in поле Группа размещения выберите группу размещения.
-
Чтобы добавить дополнительную информацию or фильтровать серверы in списке, добавьте теги сервера. Автоматически добавляются теги операционной системы and конфигурации. Чтобы добавить новый тег, in поле Теги введите тег.
-
To add a script that will be executed using the cloud-init agent during the first operating system boot, in the Automation block in the User data field:
- open the Text tab and paste the script text;
- or open the File tab and upload the script file.
Start Aim
-
Open the
http://<ip_address>page in your browser.Enter
<ip_address>— the public IP address of the cloud server. You can copy it in the control panel: from the top menu, click Products → Cloud Servers → server page → Ports tab → in the port card, click next to the public IP address. -
Enter the username —
admin. -
Enter the password — the server UUID. You can copy it in the control panel: from the top menu, click Products → Cloud Servers → in the server card, click next to the UUID.
-
Click Sign in.