Перейти к основному содержимому

ОС с приложением Open WebUI

Последнее изменение:

На выделенный сервер можно установить ОС с готовым приложением Open WebUI.

Образ ОС с Open WebUI подготовлен на базе ОС SelectOS — подробнее об ОС в документации SelectOS. Параметры доступных моделей (LLM, Large Language Model) зависят от характеристик комплектующих выделенного сервера. Модель не запустится, если ее размер превышает размер видеопамяти на GPU. Подробнее о выборе конфигурации для LLM в подразделе Модели машинного обучения инструкции Выбрать комплектующие для выделенного сервера произвольной конфигурации.

Образ ОС содержит:

  • Open WebUI — веб-интерфейс, который позволяет управлять и взаимодействовать с LLM через Ollama;

  • Ollama — платформу для запуска LLM локально на сервере. Запускается в Docker-контейнере ollama, который не имеет прямого доступа в интернет, а взаимодействует только с Docker-контейнером openweb-ui через Docker-сеть llm-net;

  • Docker — платформу контейнеризации для разработки и запуска контейнеризированных приложений;

  • настройки сетевых компонентов:

    • nginx — веб-сервер и обратный прокси. Open WebUI не поддерживает HTTPS напрямую. Nginx используется как прокси-сервер и обеспечивает доступ к Open WebUI по HTTPS, для этого в системе генерируется самоподписанный TLS(SSL)-сертификат по IP-адресу.
      Для долгосрочной работы с сервером рекомендуем заменить самоподписанный сертификат на доверенный сертификат для вашего домена и настроить nginx на работу с ним;

    • UFW (Uncomplicated Firewall) — упрощенный интерфейс командной строки для управления файрволом Netfilter в ОС на базе Linux. UFW разрешает входящие соединения только по портам 22, 80 и 443, остальной трафик блокируется.

Установить ОС с Open WebUI

Для работы Open WebUI выделенный сервер должен быть доступен из интернета.

Вы можете установить ОС с Open WebUI сразу с LLM или установить нужную LLM после установки ОС.

  1. В панели управления в верхнем меню нажмите Продукты и выберите Выделенные серверы.

  2. В разделе Серверы откройте страницу сервера → вкладка Операционная система.

  3. Нажмите Переустановить ОС.

  4. Опционально: для безопасного подключения к серверу по зашифрованному протоколу SSH выберите ранее загруженный и размещенный SSH-ключ или добавьте новый. Подробнее в инструкции Создать и загрузить SSH-ключ на выделенном сервере.

  5. Введите user data. С помощью user data вы можете автоматизировать настройку серверов. Указать user data можно только для серверов без аппаратных HBA и RAID-контроллеров.

    Чтобы установить LLM, нужно в поле user data вставить скрипт:

    #cloud-config
    runcmd:
      - ollama_pull hf.co/<llm_name>

    Укажите <llm_name> — производитель и название модели, например Qwen/Qwen3-30B-A3B-GGUF. Подробнее о доступных моделях на сайте Hugging Face.

  6. В поле Дистрибутив выберите Open WebUI.

  7. Опционально: разметьте диски. По умолчанию определяется оптимальный тип RAID и размечаются только диски с разделами и диски в RAID.

  8. Нажмите Установить. Установка может занять от 7 до 60 минут, ее продолжительность зависит от производительности сервера и выбранного дистрибутива. Если прошло больше времени, создайте тикет.

  9. После установки ОС будет сгенерирован пароль для подключения к серверу. Пароль можно скопировать в панели управления: в верхнем меню нажмите Продукты → Выделенные серверы → страница сервера → вкладка Операционная система → в поле Пароль нажмите . Пароль доступен для просмотра 24 часа с момента начала установки ОС или изменения конфигурации. Если забыли пароль от сервера, вы можете сбросить и восстановить его.

Подключиться к панели Open WebUI

  1. Откройте в браузере страницу:

    https://<ip_address>

    Укажите <ip_address> — публичный IP-адрес сервера. Можно скопировать в панели управления: в верхнем меню нажмите Продукты → Выделенные серверы → страница сервера → вкладка Операционная система → в поле IP нажмите .

  2. Нажмите Get started.

  3. Создайте аккаунт администратора:

    3.1. В поле Name введите имя администратора, например Admin.

    3.2. В поле Email введите Email-адрес.

    3.3. В поле Password введите пароль аккаунта.

    3.4. Нажмите Create Admin Account.

Установить LLM

  1. Подключитесь к серверу по SSH или через KVM-консоль.

  2. Установите модель:

ollama_pull hf.co/<llm_name>

Укажите <llm_name> — производитель и название модели, например Qwen/Qwen3-30B-A3B-GGUF. Подробнее о доступных моделях на сайте Hugging Face.