Open WebUI Virtual Machine — преднастроенный облачный сервер с инструментом для развертывания больших языковых моделей (LLM) и работы с ними через веб‑интерфейс.
Инструмент предоставляет полный контроль над обрабатываемыми данными и поддержку расширенного RAG.
Образ, из которого развертывается сервер, содержит:
Open WebUI — расширяемый веб-интерфейс для работы с LLM, который поддерживает Ollama и API, совместимые с OpenAI;
Ollama — платформу для локальной загрузки и запуска LLM.
Ollama устанавливается автоматически только при создании сервера с GPU.
Подробнее в подразделе Минимальные требования к ресурсам;
Docker — платформу для запуска контейнеризированных приложений;
Docker Compose — инструмент для запуска многоконтейнерных приложений в Docker;
драйверы, необходимые для работы с графическими процессорами (GPU).
развертывание LLM с полным контролем над обрабатываемыми данными;
управление доступом к веб‑интерфейсу;
взаимодействие с LLM через чат-бот;
работа с внешними источниками данных через встроенный RAG.
Минимальные требования к ресурсам
Количество vCPU
2
RAM
8 ГБ
Загрузочный диск
80 ГБ
GPU
Опционально*
* Ollama устанавливается автоматически только при создании сервера с GPU.
Без GPU Open WebUI работает как интерфейс для подключения только к внешним LLM — запущенным на других серверах или через API.
Создать облачный сервер c Open WebUI VM
Для работы Open WebUI облачный сервер должен быть доступен из интернета.
Для этого при создании сервера нужно создать приватную подсеть и подключить публичный плавающий IP-адрес.
Введите имя сервера. Оно будет установлено как имя хоста в операционной системе.
Выберите локацию, в которой будет создан сервер.
От локации зависит список доступных конфигураций сервера и стоимость ресурсов.
После создания сервера изменить локацию нельзя.
Источник
Откройте вкладку Приложения.
Выберите Open WebUI.
Опционально: если вам нужна другая актуальная или архивная версия приложения, в поле Версия выберите нужную версию.
Конфигурация
Выберите конфигурацию линейки GPU от 2 vCPU, RAM от 8 ГБ и размером загрузочного диска от 80 ГБ.
Для линейки доступны два вида конфигураций сервера:
фиксированные конфигурации — конфигурации линейки с разными техническими характеристиками, в которых зафиксировано соотношение ресурсов;
произвольные конфигурации — конфигурации, в которых можно указать любое соотношение ресурсов.
В конфигурациях используются разные процессоры в зависимости от линейки и сегмента пула.
Вы можете настроить выбранную конфигурацию.
После создания сервера можно будет изменить конфигурацию.
Фиксированная конфигурация
Произвольная конфигурация
Откройте вкладку с GPU линейкой.
Нажмите Фиксированная.
Опционально: вы можете настроить конфигурацию, если создаете сервер в сегменте мультизонального пула ru-6 или сегментах пулов ru-3b, ru-7a и ru-7b:
3.1. Разверните блок с описанием настроек конфигурации.
3.2. Опционально: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Опционально: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра.
Подробнее в инструкции Выделенные ядра.
3.4. Опционально: если для сервера с выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Опционально: если вы создаете сервер с выделенными ядрами и хотите разместить многопроцессорный сервер на одной NUMA-ноде, отметьте чекбокс Обязательное размещение на одной NUMA-ноде.
Разместить на одной NUMA-ноде можно сервер с 4 vCPU и больше.
Если ресурсы облачного сервера не получится разместить на одной ноде, он не создаcтся.
Подробнее в подразделе Размещение на одной NUMA-ноде инструкции Выделенные ядра.
Если в выбранной конфигурации доступны и локальные, и сетевые диски, выберите диск, который будет использоваться в качестве загрузочного:
локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер с локальным диском можно создать только из образов и приложений;
сетевой диск — не отмечайте чекбокс Локальный SSD NVMe диск.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного в конфигурации — ядро операционной системы резервирует часть оперативной памяти в зависимости от версии ядра и дистрибутива.
Выделенный объем на сервере можно проверить с помощью команды sudo dmesg | grep Memory.
Откройте вкладку с GPU линейкой.
Нажмите Произвольная.
Опционально: вы можете настроить конфигурацию, если создаете сервер в сегменте мультизонального пула ru-6 или сегментах пулов ru-3b, ru-7a и ru-7b:
3.1. Разверните блок с описанием настроек конфигурации.
3.2. Опционально: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Опционально: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра.
Подробнее в инструкции Выделенные ядра.
3.4. Опционально: если для облачного сервера с выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Опционально: если вы создаете облачный сервер с выделенными ядрами и хотите разместить многопроцессорный сервер на одной NUMA-ноде, отметьте чекбокс Обязательное размещение на одной NUMA-ноде.
Разместить на одной NUMA-ноде можно облачный сервер с 4 vCPU и больше.
Если ресурсы облачного сервера не получится разместить на одной ноде, он не создаcтся.
Подробнее в подразделе Размещение на одной NUMA-ноде инструкции Выделенные ядра.
Если в выбранной конфигурации доступны и локальные, и сетевые диски, выберите диск, который будет использоваться в качестве загрузочного:
локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер с локальным диском можно создать только из образов и приложений;
сетевой диск — не отмечайте чекбокс Локальный SSD NVMe диск.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного в конфигурации — ядро операционной системы резервирует часть оперативной памяти в зависимости от версии ядра и дистрибутива.
Выделенный объем на сервере можно проверить с помощью команды sudo dmesg | grep Memory.
Диски
Если при настройке конфигурации вы не отметили чекбокс Локальный SSD NVMe диск, в качестве загрузочного диска сервера будет использоваться первый указанный сетевой диск.
Чтобы настроить его:
1.2. Укажите размер сетевого загрузочного диска в ГБ или ТБ. Учитывайте лимиты сетевых дисков на максимальный размер.
1.3. Если вы выбрали тип диска Универсальный v2 или SSD Быстрый v2, укажите общее количество операций чтения и записи в IOPS. После создания диска вы можете изменить количество IOPS — уменьшить или увеличить.
Количество изменений IOPS не ограничено.
Опционально: добавьте дополнительный сетевой диск сервера:
2.3. Укажите размер сетевого диска в ГБ или ТБ. Учитывайте лимиты сетевых дисков на максимальный размер.
2.4. Если вы выбрали тип диска Универсальный v2 или SSD Быстрый v2, укажите общее количество операций чтения и записи в IOPS. После создания диска вы можете изменить количество IOPS — уменьшить или увеличить. Количество изменений IOPS не ограничено.
Облачный сервер будет добавлен в приватную подсеть, которая подключена к облачному роутеру с функцией 1:1 NAT и выходом в интернет.
Доступ в интернет и из интернета будет осуществляться через облачный роутер.
Сервер будет доступен из интернета по публичному плавающему IP-адресу.
В поле Подключение из интернета выберите тип доступа Публичный плавающий IP-адрес.
Облачный сервер можно добавить в уже существующую или в новую приватную подсеть.
Существующая приватная подсеть
Новая приватная подсеть
В поле Подсеть выберите приватную подсеть.
Опционально: в поле IP-адрес измените IP-адрес по умолчанию.
В поле Роутер выберите существующий роутер или создайте новый.
Если роутер не подключен к интернету, он будет автоматически подключен к интернету после создания сервера.
В поле Подсеть выберите Новая приватная подсеть.
В поле Сеть выберите существующую сеть или создайте новую.
Опционально: измените CIDR подсети.
Опционально: в поле IP-адрес измените IP-адрес по умолчанию.
В поле Роутер выберите существующий роутер или создайте новый.
Если роутер не подключен к интернету, он будет автоматически подключен к интернету после создания сервера.
Безопасность
Выберите группы безопасности для фильтрации трафика на портах сервера. Без групп безопасности трафик будет запрещен. Если блок отсутствует, в сети сервера выключена фильтрация трафика (port security). С выключенной фильтрацией трафика весь трафик будет разрешен.
1.1. Если SSH-ключ для проекта не добавлен в облачную платформу, нажмите Добавить SSH-ключ, введите имя ключа, вставьте публичный ключ в формате OpenSSH и нажмите Добавить.
1.2. Если SSH-ключ для проекта добавлен в облачную платформу, в поле SSH-ключ выберите существующий ключ.
SSH-ключ доступен только в том пуле, в котором он размещен.
Опционально: в поле Пароль для «root»:
2.1. Скопируйте пароль пользователя root — пользователя с неограниченными правами на все действия над системой.
2.2. Сохраните пароль в безопасном месте и не передавайте в открытом виде.
Дополнительные настройки
Если вы планируете создать несколько серверов и хотите повысить отказоустойчивость инфраструктуры, добавьте сервер в группу размещения:
1.1. Чтобы создать новую группу, в поле Группа размещения нажмите Создать.
1.2. Выберите Новая группа и введите имя группы.
1.3. Выберите политику размещения на разных хостах:
желательно — soft-anti-affinity. Система постарается разместить серверы на разных хостах. Если при создании сервера не будет подходящего хоста, он будет создан на том же хосте;
обязательно — anti-affinity. Серверы в группе обязательно располагаются на разных хостах. Если при создании сервера не будет подходящего хоста, сервер не будет создан.
1.4. Если группа создана, в поле Группа размещения выберите группу размещения.
Чтобы добавить дополнительную информацию или фильтровать серверы в списке, добавьте теги сервера. Автоматически добавляются теги операционной системы и конфигурации. Чтобы добавить новый тег, в поле Теги введите тег.
Чтобы добавить скрипт, который выполнится с помощью агента cloud-init при первом запуске операционной системы, в блоке Автоматизация в поле User data:
откройте вкладку Текст и вставьте скрипт текстом;
или откройте вкладку Файл и загрузите файл со скриптом.
В панели управления в верхнем меню нажмите Продукты и выберите Облачные серверы.
Введите имя сервера. Оно будет установлено как имя хоста в операционной системе.
Выберите локацию, в которой будет создан сервер.
От локации зависит список доступных конфигураций сервера и стоимость ресурсов.
После создания сервера изменить локацию нельзя.
Источник
Откройте вкладку Приложения.
Выберите Open WebUI.
Опционально: если вам нужна другая актуальная или архивная версия приложения, в поле Версия выберите нужную версию.
Конфигурация
Выберите конфигурацию от 2 vCPU, RAM от 8 ГБ и размером загрузочного диска от 80 ГБ.
Для всех линеек, кроме Shared и Dedicated, доступны два вида конфигураций сервера:
фиксированные конфигурации — конфигурации линеек с разными техническими характеристиками, в которых зафиксировано соотношение ресурсов;
произвольные конфигурации — конфигурации, в которых можно указать любое соотношение ресурсов.
В конфигурациях используются разные процессоры в зависимости от линейки и сегмента пула.
Вы можете настроить выбранную конфигурацию.
После создания сервера можно будет изменить конфигурацию.
Фиксированная конфигурация
Произвольная конфигурация
Откройте вкладку с линейкой.
Нажмите Фиксированная.
Опционально: вы можете настроить конфигурацию, если создаете сервер в сегменте мультизонального пула ru-6 или сегментах пулов ru-3b, ru-7a и ru-7b:
3.1. Разверните блок с описанием настроек конфигурации.
3.2. Опционально: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Опционально: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра.
Подробнее в инструкции Выделенные ядра.
3.4. Опционально: если для сервера с выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Опционально: если вы создаете сервер с выделенными ядрами и хотите разместить многопроцессорный сервер на одной NUMA-ноде, отметьте чекбокс Обязательное размещение на одной NUMA-ноде.
Разместить на одной NUMA-ноде можно сервер с 4 vCPU и больше.
Если ресурсы облачного сервера не получится разместить на одной ноде, он не создаcтся.
Подробнее в подразделе Размещение на одной NUMA-ноде инструкции Выделенные ядра.
Если в выбранной конфигурации доступны и локальные, и сетевые диски, выберите диск, который будет использоваться в качестве загрузочного:
локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер с локальным диском можно создать только из образов и приложений;
сетевой диск — не отмечайте чекбокс Локальный SSD NVMe диск.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного в конфигурации — ядро операционной системы резервирует часть оперативной памяти в зависимости от версии ядра и дистрибутива.
Выделенный объем на сервере можно проверить с помощью команды sudo dmesg | grep Memory.
Откройте вкладку с линейкой.
Нажмите Произвольная.
Опционально: вы можете настроить конфигурацию, если создаете сервер в сегменте мультизонального пула ru-6 или сегментах пулов ru-3b, ru-7a и ru-7b:
3.1. Разверните блок с описанием настроек конфигурации.
3.2. Опционально: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Опционально: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра.
Подробнее в инструкции Выделенные ядра.
3.4. Опционально: если для облачного сервера с выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Опционально: если вы создаете облачный сервер с выделенными ядрами и хотите разместить многопроцессорный сервер на одной NUMA-ноде, отметьте чекбокс Обязательное размещение на одной NUMA-ноде.
Разместить на одной NUMA-ноде можно облачный сервер с 4 vCPU и больше.
Если ресурсы облачного сервера не получится разместить на одной ноде, он не создаcтся.
Подробнее в подразделе Размещение на одной NUMA-ноде инструкции Выделенные ядра.
Укажите количество vCPU.
Укажите размер RAM.
Если нужно добавить к серверу графические процессоры, нажмите Добавить GPU, выберите тип GPU и укажите количество GPU.
Выбранная линейка изменится на линейку GPU.
Если в блоке Источник вы выбрали образ без GPU-оптимизации и у вас включен тумблер Автовыбор GPU образа, то выбранный образ автоматически сменится на образ с GPU-оптимизацией.
Если в выбранной конфигурации доступны и локальные, и сетевые диски, выберите диск, который будет использоваться в качестве загрузочного:
локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер с локальным диском можно создать только из образов и приложений;
сетевой диск — не отмечайте чекбокс Локальный SSD NVMe диск.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного в конфигурации — ядро операционной системы резервирует часть оперативной памяти в зависимости от версии ядра и дистрибутива.
Выделенный объем на сервере можно проверить с помощью команды sudo dmesg | grep Memory.
Диски
Если при настройке конфигурации вы не отметили чекбокс Локальный SSD NVMe диск, в качестве загрузочного диска сервера будет использоваться первый указанный сетевой диск.
Чтобы настроить его:
1.2. Укажите размер сетевого загрузочного диска в ГБ или ТБ. Учитывайте лимиты сетевых дисков на максимальный размер.
1.3. Если вы выбрали тип диска Универсальный v2 или SSD Быстрый v2, укажите общее количество операций чтения и записи в IOPS. После создания диска вы можете изменить количество IOPS — уменьшить или увеличить.
Количество изменений IOPS не ограничено.
Опционально: добавьте дополнительный сетевой диск сервера:
2.3. Укажите размер сетевого диска в ГБ или ТБ. Учитывайте лимиты сетевых дисков на максимальный размер.
2.4. Если вы выбрали тип диска Универсальный v2 или SSD Быстрый v2, укажите общее количество операций чтения и записи в IOPS. После создания диска вы можете изменить количество IOPS — уменьшить или увеличить. Количество изменений IOPS не ограничено.
Облачный сервер будет добавлен в приватную подсеть, которая подключена к облачному роутеру с функцией 1:1 NAT и выходом в интернет.
Доступ в интернет и из интернета будет осуществляться через облачный роутер.
Сервер будет доступен из интернета по публичному плавающему IP-адресу.
В поле Подключение из интернета выберите тип доступа Публичный плавающий IP-адрес.
Опционально: в поле IP-адрес измените IP-адрес по умолчанию.
В поле Роутер выберите существующий роутер или создайте новый.
Если роутер не подключен к интернету, он будет автоматически подключен к интернету после создания сервера.
В поле Подсеть выберите Новая приватная подсеть.
В поле Сеть выберите существующую сеть или создайте новую.
Опционально: измените CIDR подсети.
Опционально: в поле IP-адрес измените IP-адрес по умолчанию.
В поле Роутер выберите существующий роутер или создайте новый.
Если роутер не подключен к интернету, он будет автоматически подключен к интернету после создания сервера.
Безопасность
Выберите группы безопасности для фильтрации трафика на портах сервера. Без групп безопасности трафик будет запрещен. Если блок отсутствует, в сети сервера выключена фильтрация трафика (port security). С выключенной фильтрацией трафика весь трафик будет разрешен.
1.1. Если SSH-ключ для проекта не добавлен в облачную платформу, нажмите Добавить SSH-ключ, введите имя ключа, вставьте публичный ключ в формате OpenSSH и нажмите Добавить.
1.2. Если SSH-ключ для проекта добавлен в облачную платформу, в поле SSH-ключ выберите существующий ключ.
SSH-ключ доступен только в том пуле, в котором он размещен.
Опционально: в поле Пароль для «root»:
2.1. Скопируйте пароль пользователя root — пользователя с неограниченными правами на все действия над системой.
2.2. Сохраните пароль в безопасном месте и не передавайте в открытом виде.
Дополнительные настройки
Если вы планируете создать несколько серверов и хотите повысить отказоустойчивость инфраструктуры, добавьте сервер в группу размещения:
1.1. Чтобы создать новую группу, в поле Группа размещения нажмите Создать.
1.2. Выберите Новая группа и введите имя группы.
1.3. Выберите политику размещения на разных хостах:
желательно — soft-anti-affinity. Система постарается разместить серверы на разных хостах. Если при создании сервера не будет подходящего хоста, он будет создан на том же хосте;
обязательно — anti-affinity. Серверы в группе обязательно располагаются на разных хостах. Если при создании сервера не будет подходящего хоста, сервер не будет создан.
1.4. Если группа создана, в поле Группа размещения выберите группу размещения.
Чтобы добавить дополнительную информацию или фильтровать серверы в списке, добавьте теги сервера. Автоматически добавляются теги операционной системы и конфигурации. Чтобы добавить новый тег, в поле Теги введите тег.
Чтобы добавить скрипт, который выполнится с помощью агента cloud-init при первом запуске операционной системы, в блоке Автоматизация в поле User data:
откройте вкладку Текст и вставьте скрипт текстом;
или откройте вкладку Файл и загрузите файл со скриптом.
Создать аккаунт администратора
Чтобы работать в веб-интерфейсе Open WebUI, сначала создайте аккаунт администратора.
Откройте в браузере страницу http://<ip_address>.
Укажите <ip_address> — публичный IP-адрес облачного сервера. Можно скопировать в панели управления: в верхнем меню нажмите Продукты → Облачные серверы → страница сервера → вкладка Порты → в карточке порта нажмите рядом с публичным IP-адресом.
В веб-интерфейсе Open WebUI нажмите Давайте начнем.
Введите имя пользователя.
Введите электронную почту.
Введите пароль.
Нажмите Создать аккаунт Администратора.
Запустить Open WebUI
Откройте в браузере страницу http://<ip_address>.
Укажите <ip_address> — публичный IP-адрес облачного сервера. Можно скопировать в панели управления: в верхнем меню нажмите Продукты → Облачные серверы → страница сервера → вкладка Порты → в карточке порта нажмите рядом с публичным IP-адресом.
Введите электронную почту администратора, которую указали при создании аккаунта на шаге 4.
Введите пароль администратора, который указали при создании аккаунта на шаге 5.