Общая информация о продукте ML-платформа
ML-платформа Selectel — это подготовленная инфраструктура для реализации процессов ML-разработки: обучение, развертывание ML-моделей и прочее. Инфраструктура состоит из программных и аппаратных компонентов, которые настроены и подготовлены для работы.
При подборе компонентов ML-платформы используются все доступные конфигурации облачных серверов. После подключения платформы ее состав можно расширить собственными программными компонентами. Протестировано использование:
- ClearML;
- Kubeflow — подробнее об установке Kubeflow.
Дополнительных ограничений на управление кластером ML-платформы со стороны Selectel нет.
Компоненты платформы
По умолчанию ML-платформа cостоит:
- из аппаратных компонентов:
- облачная платформа — база для Managed Kubernetes c GPU NVIDIA® (Tesla T4, A2, A30, A100, A2000, A5000, GTX 1080, RTX 2080 Ti);
- программных компонентов:
- кластеры Managed Kubernetes с предварительной настройкой;
- домен для доступа к кластеру Managed Kubernetes;
- SSO Keycloak — авторизация во внутренних сервисах платформы;
- Prom Stack — мониторинг компонентов платформы;
- Forecastle — стартовая страница платформы;
- объектное хранилище — хранилище датасетов и данных экспериментов;
- Container Registry — хранение образов контейнеров.
В кластерах Managed Kubernetes:
- установлены драйверы;
- выполнено аннотирование нод;
- добавлены нужные GPU-ресурсы для вычислений;
- настроена сеть, в том числе Traefik Kubernetes Ingress.
При установке в кластер платформы ClearML, непосредственное управление ей происходит через SDK, который устанавливается в собственном IDE пользователя. Для запуска ML-экспериментов ClearML использует ноды кластера. Архитектура ClearML позволяет использовать различные конфигурации компонентов:
- один кластер Managed Kubernetes для всех ML-задач;
- несколько кластеров Managed Kubernetes — каждый для своей задачи (Inference и Training);
- подключение выделенного сервера в качестве вычислительной ноды для ML-экспериментов.
Подключить платформу
Для подключения платформы оставьте заявку на сайте. Мы поможем подобрать ее конфигурацию под проект и рассчитаем стоимость.
Стоимость
Стоимость ML-платформы рассчитывается после обработки заявки и подбора конфигурации. Зависит только от компонентов платформы: кластер Managed Kubernetes, объектное хранилище, Container Registry.