Open WebUI Virtual Machine — преднастроенный облачный сервер с инструментом для развертывания больших языковых моделей (LLM) и работы с ними через веб‑интерфейс.
Инструмент предоставляет полный контроль над обрабатываемыми данными и поддержку расширенного RAG.
Образ, из которого развертывается сервер, содержит:
Open WebUI — расширяемый веб-интерфейс для работы с LLM, который поддерживает Ollama и API, совместимые с OpenAI;
Ollama — платформу для локальной загрузки и запуска LLM.
Ollama устанавливается автоматически только при создании сервера с GPU.
Подробнее в подразделе Минимальные требования к ресурсам;
Open Terminal — терминал, который позволяет модели выполнять команды и запускать скрипты в изолированном Docker-контейнере из интерфейса Open WebUI;
Docker — платформу для запуска контейнеризированных приложений;
Docker Compose — инструмент для запуска многоконтейнерных приложений в Docker;
драйверы, необходимые для работы с графическими процессорами (GPU).
развертывание LLM с полным контролем над обрабатываемыми данными;
управление доступом к веб‑интерфейсу;
взаимодействие с LLM через чат-бот;
работа с внешними источниками данных через встроенный RAG;
выполнение моделью команд и скриптов в изолированном Docker-контейнере через Open Terminal.
Минимальные требования к ресурсам
Количество vCPU
2
RAM
8 ГБ
Загрузочный диск
80 ГБ
GPU
Опционально*
* Ollama устанавливается автоматически только при создании сервера с GPU.
Без GPU Open WebUI работает как интерфейс для подключения только к внешним LLM — запущенным на других серверах или через API.
Начать работу c Open WebUI
Для работы Open WebUI облачный сервер должен быть доступен из интернета.
Для этого при создании сервера нужно создать приватную подсеть и подключить публичный плавающий IP-адрес.
Введите имя сервера. Оно будет установлено как имя хоста в операционной системе.
Выберите локацию, в которой будет создан сервер.
От локации зависит список доступных конфигураций сервера и стоимость ресурсов.
После создания сервера изменить локацию нельзя.
Источник
Откройте вкладку Приложения.
Выберите Open WebUI.
Опционально: если вам нужна другая актуальная или архивная версия приложения, в поле Версия выберите нужную версию.
Конфигурация
Выберите конфигурацию линейки GPU от 2 vCPU, RAM от 8 ГБ и размером загрузочного диска от 80 ГБ.
Для линейки доступны два вида конфигураций сервера:
фиксированные конфигурации — конфигурации линейки с разными техническими характеристиками, в которых зафиксировано соотношение ресурсов;
произвольные конфигурации — конфигурации, в которых можно указать любое соотношение ресурсов.
В конфигурациях используются разные процессоры в зависимости от линейки и сегмента пула.
Вы можете настроить выбранную конфигурацию.
После создания сервера можно будет изменить конфигурацию.
Фиксированная конфигурация
Произвольная конфигурация
Откройте вкладку с GPU линейкой.
Нажмите Фиксированная.
Опционально: вы можете настроить конфигурацию, если создаете сервер в сегменте мультизонального пула ru-6 или сегментах пулов ru-3b, ru-7a и ru-7b:
3.1. Разверните блок с описанием настроек конфигурации.
3.2. Опционально: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Опционально: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра.
Подробнее в инструкции Выделенные ядра.
3.4. Опционально: если для сервера с выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Опционально: если вы создаете сервер с выделенными ядрами и хотите разместить многопроцессорный сервер на одной NUMA-ноде, отметьте чекбокс Обязательное размещение на одной NUMA-ноде.
Разместить на одной NUMA-ноде можно сервер с 4 vCPU и больше.
Если ресурсы облачного сервера не получится разместить на одной ноде, он не создаcтся.
Подробнее в подразделе Размещение на одной NUMA-ноде инструкции Выделенные ядра.
Если в выбранной конфигурации доступны и локальные, и сетевые диски, выберите диск, который будет использоваться в качестве загрузочного:
локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер с локальным диском можно создать только из образов и приложений;
сетевой диск — не отмечайте чекбокс Локальный SSD NVMe диск.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного в конфигурации — ядро операционной системы резервирует часть оперативной памяти в зависимости от версии ядра и дистрибутива.
Выделенный объем на сервере можно проверить с помощью команды sudo dmesg | grep Memory.
Откройте вкладку с GPU линейкой.
Нажмите Произвольная.
Опционально: вы можете настроить конфигурацию, если создаете сервер в сегменте мультизонального пула ru-6 или сегментах пулов ru-3b, ru-7a и ru-7b:
3.1. Разверните блок с описанием настроек конфигурации.
3.2. Опционально: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Опционально: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра.
Подробнее в инструкции Выделенные ядра.
3.4. Опционально: если для облачного сервера с выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Опционально: если вы создаете облачный сервер с выделенными ядрами и хотите разместить многопроцессорный сервер на одной NUMA-ноде, отметьте чекбокс Обязательное размещение на одной NUMA-ноде.
Разместить на одной NUMA-ноде можно облачный сервер с 4 vCPU и больше.
Если ресурсы облачного сервера не получится разместить на одной ноде, он не создаcтся.
Подробнее в подразделе Размещение на одной NUMA-ноде инструкции Выделенные ядра.
Если в выбранной конфигурации доступны и локальные, и сетевые диски, выберите диск, который будет использоваться в качестве загрузочного:
локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер с локальным диском можно создать только из образов и приложений;
сетевой диск — не отмечайте чекбокс Локальный SSD NVMe диск.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного в конфигурации — ядро операционной системы резервирует часть оперативной памяти в зависимости от версии ядра и дистрибутива.
Выделенный объем на сервере можно проверить с помощью команды sudo dmesg | grep Memory.
Диски
Если при настройке конфигурации вы не отметили чекбокс Локальный SSD NVMe диск, в качестве загрузочного диска сервера будет использоваться первый указанный сетевой диск.
Чтобы настроить его:
1.2. Укажите размер сетевого загрузочного диска в ГБ или ТБ. Учитывайте лимиты сетевых дисков на максимальный размер.
1.3. Если вы выбрали тип диска Универсальный v2 или SSD Быстрый v2, укажите общее количество операций чтения и записи в IOPS. После создания диска вы можете изменить количество IOPS — уменьшить или увеличить.
Количество изменений IOPS не ограничено.
Опционально: добавьте дополнительный сетевой диск сервера:
2.3. Укажите размер сетевого диска в ГБ или ТБ. Учитывайте лимиты сетевых дисков на максимальный размер.
2.4. Если вы выбрали тип диска Универсальный v2 или SSD Быстрый v2, укажите общее количество операций чтения и записи в IOPS. После создания диска вы можете изменить количество IOPS — уменьшить или увеличить. Количество изменений IOPS не ограничено.
Облачный сервер будет добавлен в приватную подсеть, которая подключена к облачному роутеру с функцией 1:1 NAT и выходом в интернет.
Доступ в интернет и из интернета будет осуществляться через облачный роутер.
Сервер будет доступен из интернета по публичному плавающему IP-адресу.
В поле Подключение из интернета выберите тип доступа Публичный плавающий IP-адрес.
Облачный сервер можно добавить в уже существующую или в новую приватную подсеть.
Существующая приватная подсеть
Новая приватная подсеть
В поле Подсеть выберите приватную подсеть.
Опционально: в поле IP-адрес измените IP-адрес по умолчанию.
В поле Роутер выберите существующий роутер или создайте новый.
Если роутер не подключен к интернету, он будет автоматически подключен к интернету после создания сервера.
В поле Подсеть выберите Новая приватная подсеть.
В поле Сеть выберите существующую сеть или создайте новую.
Опционально: измените CIDR подсети.
Опционально: в поле IP-адрес измените IP-адрес по умолчанию.
В поле Роутер выберите существующий роутер или создайте новый.
Если роутер не подключен к интернету, он будет автоматически подключен к интернету после создания сервера.
Безопасность
Выберите группы безопасности для фильтрации трафика на портах сервера. Без групп безопасности трафик будет запрещен. Если блок отсутствует, в сети сервера выключена фильтрация трафика (port security). С выключенной фильтрацией трафика весь трафик будет разрешен.
1.1. Если SSH-ключ для проекта не добавлен в облачную платформу, нажмите Добавить SSH-ключ, введите имя ключа, вставьте публичный ключ в формате OpenSSH и нажмите Добавить.
1.2. Если SSH-ключ для проекта добавлен в облачную платформу, в поле SSH-ключ выберите существующий ключ.
SSH-ключ доступен только в том пуле, в котором он размещен.
Опционально: в поле Пароль для «root»:
2.1. Скопируйте пароль пользователя root — пользователя с неограниченными правами на все действия над системой.
2.2. Сохраните пароль в безопасном месте и не передавайте в открытом виде.
Дополнительные настройки
Если вы планируете создать несколько серверов и хотите повысить отказоустойчивость инфраструктуры, добавьте сервер в группу размещения:
1.1. Чтобы создать новую группу, в поле Группа размещения нажмите Создать.
1.2. Выберите Новая группа и введите имя группы.
1.3. Выберите политику размещения на разных хостах:
желательно — soft-anti-affinity. Система постарается разместить серверы на разных хостах. Если при создании сервера не будет подходящего хоста, он будет создан на том же хосте;
обязательно — anti-affinity. Серверы в группе обязательно располагаются на разных хостах. Если при создании сервера не будет подходящего хоста, сервер не будет создан.
1.4. Если группа создана, в поле Группа размещения выберите группу размещения.
Чтобы добавить дополнительную информацию или фильтровать серверы в списке, добавьте теги сервера. Автоматически добавляются теги операционной системы и конфигурации. Чтобы добавить новый тег, в поле Теги введите тег.
Чтобы добавить скрипт, который выполнится с помощью агента cloud-init при первом запуске операционной системы, в блоке Автоматизация в поле User data:
откройте вкладку Текст и вставьте скрипт текстом;
или откройте вкладку Файл и загрузите файл со скриптом.
В панели управления в верхнем меню нажмите Продукты и выберите Облачные серверы.
Введите имя сервера. Оно будет установлено как имя хоста в операционной системе.
Выберите локацию, в которой будет создан сервер.
От локации зависит список доступных конфигураций сервера и стоимость ресурсов.
После создания сервера изменить локацию нельзя.
Источник
Откройте вкладку Приложения.
Выберите Open WebUI.
Опционально: если вам нужна другая актуальная или архивная версия приложения, в поле Версия выберите нужную версию.
Конфигурация
Выберите конфигурацию от 2 vCPU, RAM от 8 ГБ и размером загрузочного диска от 80 ГБ.
Для всех линеек, кроме Shared и Dedicated, доступны два вида конфигураций сервера:
фиксированные конфигурации — конфигурации линеек с разными техническими характеристиками, в которых зафиксировано соотношение ресурсов;
произвольные конфигурации — конфигурации, в которых можно указать любое соотношение ресурсов.
В конфигурациях используются разные процессоры в зависимости от линейки и сегмента пула.
Вы можете настроить выбранную конфигурацию.
После создания сервера можно будет изменить конфигурацию.
Фиксированная конфигурация
Произвольная конфигурация
Откройте вкладку с линейкой.
Нажмите Фиксированная.
Опционально: вы можете настроить конфигурацию, если создаете сервер в сегменте мультизонального пула ru-6 или сегментах пулов ru-3b, ru-7a и ru-7b:
3.1. Разверните блок с описанием настроек конфигурации.
3.2. Опционально: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Опционально: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра.
Подробнее в инструкции Выделенные ядра.
3.4. Опционально: если для сервера с выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Опционально: если вы создаете сервер с выделенными ядрами и хотите разместить многопроцессорный сервер на одной NUMA-ноде, отметьте чекбокс Обязательное размещение на одной NUMA-ноде.
Разместить на одной NUMA-ноде можно сервер с 4 vCPU и больше.
Если ресурсы облачного сервера не получится разместить на одной ноде, он не создаcтся.
Подробнее в подразделе Размещение на одной NUMA-ноде инструкции Выделенные ядра.
Если в выбранной конфигурации доступны и локальные, и сетевые диски, выберите диск, который будет использоваться в качестве загрузочного:
локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер с локальным диском можно создать только из образов и приложений;
сетевой диск — не отмечайте чекбокс Локальный SSD NVMe диск.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного в конфигурации — ядро операционной системы резервирует часть оперативной памяти в зависимости от версии ядра и дистрибутива.
Выделенный объем на сервере можно проверить с помощью команды sudo dmesg | grep Memory.
Откройте вкладку с линейкой.
Нажмите Произвольная.
Опционально: вы можете настроить конфигурацию, если создаете сервер в сегменте мультизонального пула ru-6 или сегментах пулов ru-3b, ru-7a и ru-7b:
3.1. Разверните блок с описанием настроек конфигурации.
3.2. Опционально: выберите производителя процессора. Выбор производителя доступен не во всех пулах.
3.3. Опционально: если вы хотите, чтобы за vCPU облачного сервера не закреплялись ядра физического процессора, снимите чекбокс Выделенные ядра.
Подробнее в инструкции Выделенные ядра.
3.4. Опционально: если для облачного сервера с выделенными ядрами вы хотите выключить Hyper-Threading, снимите чекбокс Hyper-Threading (SMT).
3.5. Опционально: если вы создаете облачный сервер с выделенными ядрами и хотите разместить многопроцессорный сервер на одной NUMA-ноде, отметьте чекбокс Обязательное размещение на одной NUMA-ноде.
Разместить на одной NUMA-ноде можно облачный сервер с 4 vCPU и больше.
Если ресурсы облачного сервера не получится разместить на одной ноде, он не создаcтся.
Подробнее в подразделе Размещение на одной NUMA-ноде инструкции Выделенные ядра.
Укажите количество vCPU.
Укажите размер RAM.
Если нужно добавить к серверу графические процессоры, нажмите Добавить GPU, выберите тип GPU и укажите количество GPU.
Выбранная линейка изменится на линейку GPU.
Если в блоке Источник вы выбрали образ без GPU-оптимизации и у вас включен тумблер Автовыбор GPU образа, то выбранный образ автоматически сменится на образ с GPU-оптимизацией.
Если в выбранной конфигурации доступны и локальные, и сетевые диски, выберите диск, который будет использоваться в качестве загрузочного:
локальный диск — отметьте чекбокс Локальный SSD NVMe диск. Сервер с локальным диском можно создать только из образов и приложений;
сетевой диск — не отмечайте чекбокс Локальный SSD NVMe диск.
Объем оперативной памяти, который выделяется серверу, может быть меньше указанного в конфигурации — ядро операционной системы резервирует часть оперативной памяти в зависимости от версии ядра и дистрибутива.
Выделенный объем на сервере можно проверить с помощью команды sudo dmesg | grep Memory.
Диски
Если при настройке конфигурации вы не отметили чекбокс Локальный SSD NVMe диск, в качестве загрузочного диска сервера будет использоваться первый указанный сетевой диск.
Чтобы настроить его:
1.2. Укажите размер сетевого загрузочного диска в ГБ или ТБ. Учитывайте лимиты сетевых дисков на максимальный размер.
1.3. Если вы выбрали тип диска Универсальный v2 или SSD Быстрый v2, укажите общее количество операций чтения и записи в IOPS. После создания диска вы можете изменить количество IOPS — уменьшить или увеличить.
Количество изменений IOPS не ограничено.
Опционально: добавьте дополнительный сетевой диск сервера:
2.3. Укажите размер сетевого диска в ГБ или ТБ. Учитывайте лимиты сетевых дисков на максимальный размер.
2.4. Если вы выбрали тип диска Универсальный v2 или SSD Быстрый v2, укажите общее количество операций чтения и записи в IOPS. После создания диска вы можете изменить количество IOPS — уменьшить или увеличить. Количество изменений IOPS не ограничено.
Облачный сервер будет добавлен в приватную подсеть, которая подключена к облачному роутеру с функцией 1:1 NAT и выходом в интернет.
Доступ в интернет и из интернета будет осуществляться через облачный роутер.
Сервер будет доступен из интернета по публичному плавающему IP-адресу.
В поле Подключение из интернета выберите тип доступа Публичный плавающий IP-адрес.
Опционально: в поле IP-адрес измените IP-адрес по умолчанию.
В поле Роутер выберите существующий роутер или создайте новый.
Если роутер не подключен к интернету, он будет автоматически подключен к интернету после создания сервера.
В поле Подсеть выберите Новая приватная подсеть.
В поле Сеть выберите существующую сеть или создайте новую.
Опционально: измените CIDR подсети.
Опционально: в поле IP-адрес измените IP-адрес по умолчанию.
В поле Роутер выберите существующий роутер или создайте новый.
Если роутер не подключен к интернету, он будет автоматически подключен к интернету после создания сервера.
Безопасность
Выберите группы безопасности для фильтрации трафика на портах сервера. Без групп безопасности трафик будет запрещен. Если блок отсутствует, в сети сервера выключена фильтрация трафика (port security). С выключенной фильтрацией трафика весь трафик будет разрешен.
1.1. Если SSH-ключ для проекта не добавлен в облачную платформу, нажмите Добавить SSH-ключ, введите имя ключа, вставьте публичный ключ в формате OpenSSH и нажмите Добавить.
1.2. Если SSH-ключ для проекта добавлен в облачную платформу, в поле SSH-ключ выберите существующий ключ.
SSH-ключ доступен только в том пуле, в котором он размещен.
Опционально: в поле Пароль для «root»:
2.1. Скопируйте пароль пользователя root — пользователя с неограниченными правами на все действия над системой.
2.2. Сохраните пароль в безопасном месте и не передавайте в открытом виде.
Дополнительные настройки
Если вы планируете создать несколько серверов и хотите повысить отказоустойчивость инфраструктуры, добавьте сервер в группу размещения:
1.1. Чтобы создать новую группу, в поле Группа размещения нажмите Создать.
1.2. Выберите Новая группа и введите имя группы.
1.3. Выберите политику размещения на разных хостах:
желательно — soft-anti-affinity. Система постарается разместить серверы на разных хостах. Если при создании сервера не будет подходящего хоста, он будет создан на том же хосте;
обязательно — anti-affinity. Серверы в группе обязательно располагаются на разных хостах. Если при создании сервера не будет подходящего хоста, сервер не будет создан.
1.4. Если группа создана, в поле Группа размещения выберите группу размещения.
Чтобы добавить дополнительную информацию или фильтровать серверы в списке, добавьте теги сервера. Автоматически добавляются теги операционной системы и конфигурации. Чтобы добавить новый тег, в поле Теги введите тег.
Чтобы добавить скрипт, который выполнится с помощью агента cloud-init при первом запуске операционной системы, в блоке Автоматизация в поле User data:
откройте вкладку Текст и вставьте скрипт текстом;
или откройте вкладку Файл и загрузите файл со скриптом.
3. Создать аккаунт администратора
Откройте в браузере страницу http://<ip_address>.
Укажите <ip_address> — публичный плавающий IP-адрес облачного сервера, который вы создали на этапе 1.
В веб-интерфейсе Open WebUI нажмите Давайте начнем.
Введите имя пользователя.
Введите электронную почту.
Введите пароль.
Нажмите Создать аккаунт Администратора.
4. Запустить Open WebUI
Откройте в браузере страницу http://<ip_address>.
Укажите <ip_address> — публичный плавающий IP-адрес облачного сервера, который вы создали на этапе 1.
Введите электронную почту администратора, которую указали при создании аккаунта на шаге 4.
Введите пароль администратора, который указали при создании аккаунта на шаге 5.