Track
AWS Cloud Practitioner (CLF-C02)
10 ч
Дата-сайентисты, ML-инженеры и инженеры LLM — очень разные специалисты, но почти всем нам нужно от инфраструктуры одно и то же: как можно меньше возни. Мы не хотим часами настраивать облачные окружения или разбираться в запутанных сервисах AWS. Мы хотим нажать пару кнопок, открыть терминал или Jupyter Notebook, выбрать шаблон и приступить к обучению, дообучению или сервису модели.
Провайдеры в этом обзоре подобраны с учётом этого запроса. Они предлагают удобные панели управления, преднастроенные окружения, ноутбуки, терминалы, шаблоны контейнеров и понятные инструкции по развёртыванию; там, где Jupyter не доступен по умолчанию, его обычно можно установить за считанные минуты.
При этом они рассчитаны на разные сценарии. Одни — это маркетплейсы с упором на цену и выбор «железа»; другие предлагают предсказуемые виртуальные машины, бессерверное выполнение на GPU, управляемый инференс или кластеры уровня enterprise для распределённого обучения. Мы сравниваем десять из них в четырёх категориях: маркетплейсы GPU и сети гибкой мощности, облака с самообслуживанием на GPU, облака уровня enterprise и платформы «сначала для разработчиков», удобные для работы в ноутбуках.
Маркетплейсы GPU и сети гибкой мощности
Маркетплейсы GPU созданы для гибкого доступа к распределённой мощности GPU. Они полезны для экспериментов, пакетных задач, краткосрочного дообучения и ситуаций, когда на первом месте — выбор оборудования и стоимость.
1. Vast.ai
Vast.ai — это платформа, которой я чаще всего пользуюсь, чтобы найти доступный GPU для сервиса моделей и дообучения LLM.
Её маркетплейс предлагает большой выбор машин с GPU, которые можно сравнить по аппаратной конфигурации, объёму видеопамяти, надёжности, расположению и цене. В каждом листинге прозрачно расписаны затраты на вычисления и хранение, так что вы понимаете, за что платите.
Инстансы поддерживают Jupyter Notebook, терминалы в браузере, SSH и подключения из VS Code. Для быстрых тестов я часто трачу всего несколько центов, а затем выключаю инстанс. Однако доступность и надёжность машин могут отличаться, поскольку оборудование предоставляют разные хосты маркетплейса.
Лучше всего подходит для: доступных экспериментов, сервиса моделей, дообучения LoRA и пакетного инференса.
2. RunPod
RunPod — мой любимый GPU‑сервис; я потратил на нём сотни долларов для дообучения LLM и инференса.
Он быстрее и проще в использовании, чем Vast.ai, хотя хорошие машины могут оказаться дорогими с учётом вычислительных и стоимостных накладных расходов на хранение. RunPod почти идеально работает «из коробки»: готовые шаблоны, JupyterLab, веб-терминал, SSH и интеграция с VS Code.
Единственная недавняя проблема — доступность GPU. Популярные машины иногда недоступны, и приходится ждать или выбирать более дорогой вариант. Несмотря на это, RunPod остаётся одной из лучших платформ для дата-сайентистов, которые хотят обучать или обслуживать модели, не погружаясь в сложную облачную инфраструктуру.
Я использовал RunPod в двух наших недавних туториалах: дообучение DiffusionGemma для биомедицинского QA и дообучение Gemma 4 — обе работают от начала до конца на одном GPU‑поде RunPod.
Лучше всего подходит для: новичков, дата-сайентистов, дообучения LLM, сервиса моделей и всех, кому нужно GPU‑окружение, которое просто работает.
3. Spheron Network
Spheron — хороший вариант для доступа к доступным по цене, но топовым GPU без возни с AWS и долгосрочными контрактами.
Он объединяет мощности GPU от нескольких провайдеров дата-центров в одной панели: VM и bare metal‑машины, полный root‑доступ по SSH, прозрачное ценообразование и поминутная тарификация.
Здесь есть всё — от машин на RTX 4090 и A100 до H100, H200 и B200. Для крупных задач можно развернуть многогпушные и многоузловые кластеры с сетями NVLink, InfiniBand или RoCE. Он немного более «инфраструктурный», чем RunPod, но даёт командам, серьёзно работающим с LLM, куда больше гибкости для распределённого обучения.
Лучше всего подходит для: доступных топовых GPU, обучения LLM на нескольких GPU, распределённых нагрузок и команд, которым нужен доступ к VM или bare metal.
4. TensorDock
TensorDock — доступный маркетплейс GPU для запуска полноценных виртуальных машин.
Вы выбираете GPU, CPU, RAM, хранилище, локацию и операционную систему — и получаете машину с root‑доступом. Доступен огромный диапазон оборудования: от более дешёвых потребительских GPU до мощных A100 и H100.
Он не столь «готов из коробки», как RunPod. Обычно вы подключаетесь по SSH и настраиваете своё окружение самостоятельно, хотя Docker включён в шаблоны VM, а Jupyter можно поднять через доступные порты. Это даёт больше контроля, но вам должно быть комфортно устанавливать и управлять своими инструментами.
Лучше всего подходит для: доступных GPU‑VM, кастомного обучения PyTorch и самостоятельных развёртываний vLLM или TGI.
Облака AI с самообслуживанием на GPU
Эти платформы меньше похожи на открытые маркетплейсы и больше — на аренду полноценной облачной машины. Вы выбираете GPU, запускаете VM, подключаетесь по SSH или через VS Code и создаёте своё окружение для обучения, дообучения или сервиса модели.
5. Hyperstack
Hyperstack предоставляет предсказуемую инфраструктуру GPU без необходимости уходить в AWS, Azure или сложные enterprise‑контракты.
Вы выбираете конфигурацию GPU, регион, образ ОС и SSH‑ключ, после чего за считаные минуты запускаете полноценную виртуальную машину. Доступны on‑demand, spot и резервируемые мощности в нескольких регионах дата-центров.
Это хороший выбор, когда вам нужна надёжная машина для долгого обучения или самостоятельного развёртывания инференса. Окружение всё ещё придётся настраивать, но опыт куда более прямолинейный, чем при сборке всего на традиционном гиперскейлере.
Лучше всего подходит для: предсказуемых GPU‑VM, длительных обучающих задач, кастомных окружений и самостоятельного сервиса моделей.
6. Hyperbolic
Я потратил сотни долларов на Hyperbolic, и он мне по-прежнему нравится. Часто это был один из самых быстрых и дешёвых способов получить доступ к топовым GPU. Машины надёжные, запускаются быстро, а подключение напрямую через VS Code делает процесс почти как работу локально.
Hyperbolic предлагает on‑demand инстансы GPU, резервируемые кластеры, приватное облако и совместимый с OpenAI API инференса. Это значит, что вы можете быстро провести эксперимент по дообучению, а затем перейти на выделенные мощности или управляемый инференс — без смены платформы.
Главная проблема — доступность. Раньше было проще найти доступные по цене одиночные H100 или A100. В последнее время такие варианты часто недоступны, когда они мне нужны. Можно встретить отдельную H200, но многие доступные конфигурации — это кластеры на 4 или 8 GPU, что для моих типичных задач избыточно и слишком дорого.
Лучше всего подходит для: доступных топовых вычислений на GPU, дообучения LLM, пользователей VS Code, управляемого инференса и команд, которым позже могут понадобиться резервируемые кластеры.
Облака AI уровня Enterprise
Эти провайдеры рассчитаны на серьёзные нагрузки AI. Речь о выделенных GPU‑кластерах, высокоскоростных сетях, масштабируемом хранилище, резервируемых мощностях и инфраструктуре, которая надёжно работает месяцами, а не часами.
7. Nebius
Мне очень нравится Nebius. Я основном использовал его Token Factory для инференса — это быстро, надёжно и крайне удобно через совместимый с OpenAI API. Доступно более 60 открытых моделей без необходимости управлять инфраструктурой.
Недавно я начал изучать и облачную часть с GPU — и она впечатляет не меньше. Можно запускать одиночные машины с GPU или собирать длительно работающие кластеры с управляемым Kubernetes, хранилищем и высокоскоростными сетями. Nebius также предоставляет скидки при резервировании крупных кластеров на несколько месяцев.
Это не платформа лишь для небольших экспериментов. Крупные компании уже используют её для серьёзных задач. Например, Revolut запускает обучение и инференс на более чем 200 NVIDIA H100 в Nebius, а Recraft обучала свою модель на 20 млрд параметров на этой платформе.
Лучше всего подходит для: надёжного инференса, длительно работающих GPU‑кластеров, распределённого обучения, управляемого Kubernetes и продукционных AI‑нагрузок.
8. Together AI
Together AI — это гораздо больше, чем API инференса. Это управляемый инференс, дообучение, выделенные эндпоинты и кластеры GPU с самообслуживанием на одной платформе. Вы можете обучать, настраивать и развёртывать модели с открытыми весами, не переходя между несколькими провайдерами.
Кластеры GPU включают топовое оборудование, такое как H100, H200, B200 и GB200, с сетями InfiniBand, персистентным хранением и поддержкой Kubernetes и Slurm. Кластеры можно запускать по требованию или резервировать для длительных задач.
Вероятно, это избыточно для тех, кому нужен один доступный GPU для быстрого эксперимента. Но это отличный выбор для компаний, которым нужна надёжная инфраструктура для обучения, дообучения и сервиса моделей в масштабе.
Лучше всего подходит для: кластеров GPU уровня enterprise, крупномасштабного обучения моделей, управляемого дообучения, выделённого инференса и компаний, строящих продукционные AI‑системы.
Платформы «сначала для разработчиков» и удобные для ноутбуков
Эти платформы созданы для разработчиков, которые хотят сосредоточиться на коде, а не тратить часы на управление облачной инфраструктурой. Они предоставляют привычные инструменты — ноутбуки и VS Code — и берут на себя большую часть подготовки GPU‑ресурсов.
9. Modal
Modal кардинально отличается от аренды обычной машины с GPU. Вы пишете код на Python, выбираете нужный GPU, и Modal запускает его в бессерверном контейнере. Он может автоматически масштабироваться от нуля до нескольких GPU, а оплата идёт за фактическое время использования ресурсов вашим кодом.
Это отлично подходит для развёртывания API инференса, запуска конвейеров оценки, дообучения моделей и обработки нагрузок, которым внезапно требуется больше GPU. Modal также предлагает GPU‑ноутбуки, которые стартуют за секунды, поддерживают кастомные окружения и могут использовать до восьми A100 или H100.
Единственное, что важно понять: Modal требует иного мышления. Вы не просто открываете VM и используете её как удалённый компьютер. Вы описываете инфраструктуру на Python — сначала это непривычно, но со временем даёт колоссальную гибкость.
Лучше всего подходит для: бессерверного инференса, оценки моделей, автоматизированных конвейеров, дообучения и нагрузок с автоматическим масштабированием.
10. Thunder Compute
Thunder Compute — это почти точное попадание в то, что многим дата-сайентистам нужно от облака с GPU. Вы запускаете машину и подключаетесь к ней напрямую через VS Code, Cursor, Windsurf, командную строку или Jupyter Notebook. JupyterLab уже установлен, так что можно сразу начинать эксперименты, не тратя часы на настройку окружения.
Мне особенно нравится идея расширения для VS Code. Вместо постоянного переключения между облачной панелью, SSH‑терминалом и локальным редактором вы создаёте и открываете инстанс GPU как удалённое рабочее пространство прямо в редакторе. Ощущения гораздо ближе к работе на своём компьютере — только теперь у вас есть мощный облачный GPU.
Thunder Compute предлагает отдельные режимы для прототипирования и продакшена. Можно начать с простой машины для экспериментов, а позже перейти к продукционным конфигурациям с постоянным хранилищем и поддержкой нескольких GPU.
Лучше всего подходит для: исследований в Jupyter, пользователей VS Code, экспериментов с моделями, интерактивной дата-сайенс‑работы и всех, кто ищет более мощную альтернативу Google Colab.
Как выбрать подходящего провайдера GPU
Единственно лучшего провайдера GPU не существует. Правильный выбор зависит от доступности GPU, цены, удобства, стоимости хранения и того, нужен ли вам ноутбук, VM, бессерверный инференс или полноценный кластер GPU:
- Выбирайте Vast.ai, RunPod, Spheron или TensorDock, если вам нужна гибкая мощность, широкий выбор GPU и конкурентные цены.
- Выбирайте Hyperbolic или Hyperstack, если нужна более надёжная облачная VM для обучения, ноутбуков или саморазвёрнутого инференса.
- Выбирайте Nebius или Together AI, если требуются выделенные кластеры, распределённое обучение, резервируемые мощности или продукционная инфраструктура.
- Выбирайте Modal или Thunder Compute, когда на первом месте простота использования. Modal идеален для бессерверных нагрузок, а Thunder Compute лучше подходит для привычных рабочих процессов в VS Code и Jupyter.
Заключение
Чаще всего я использую Vast.ai, RunPod, Hyperbolic и Modal: они просты, гибки и относительно доступны. Vast.ai обычно мой первый выбор для поиска самой дешёвой машины. RunPod — самая простая в использовании платформа, Hyperbolic — быстрый и надёжный при наличии GPU, а Modal — отличный вариант для бессерверного инференса и автоматизированных нагрузок.
Для совсем маленьких экспериментов я по-прежнему использую Google Colab или локальный Jupyter Notebook. Однако у Colab есть ограничения: он часто медленный и не то, что я бы рекомендовал для серьёзного дообучения LLM, сервиса моделей или длительных обучающих задач.
Лучшая платформа — та, которая позволяет быстро начать работу, не превращая вас в инженера облачной инфраструктуры. Если всё же хотите им стать (или понимать, что происходит «под капотом»), рекомендую начать с нашего курса Understanding Cloud Computing.