track
AWS Cloud Practitioner (CLF-C02)
10 timmar
Data scientists, ML-ingenjörer och LLM-ingenjörer är väldigt olika typer, men de flesta av oss vill samma sak av infrastrukturen: så lite av den som möjligt. Vi vill inte lägga timmar på att konfigurera molnmiljöer eller navigera bland komplexa AWS-tjänster. Vi vill klicka på ett par knappar, öppna en terminal eller Jupyter Notebook, välja en mall och börja träna, finjustera eller driftsätta en modell.
Leverantörerna i den här guiden valdes med detta i åtanke. De erbjuder användarvänliga instrumentpaneler, förkonfigurerade miljöer, notebooks, terminaler, containermallar och tydliga installationsguider; där Jupyter inte finns som standard låter de flesta dig installera det inom några minuter.
Ändå vänder de sig inte alla till samma användare. Vissa är marknadsplatser byggda kring pris och hårdvaruval; andra erbjuder förutsägbara virtuella maskiner, serverlös GPU-exekvering, hanterad inferens eller företagsklassade kluster för distribuerad träning. Vi jämför tio av dem inom fyra kategorier: GPU-marknadsplatser och nätverk med flexibel kapacitet, självbetjänade AI-GPU-moln, AI-moln i företagsklass och utvecklarfokuserade plattformar med bra notebook-stöd.
GPU-marknadsplatser och nätverk med flexibel kapacitet
GPT-marknadsplatser är utformade för flexibel åtkomst till distribuerad GPU-kapacitet. De är användbara för experiment, batchjobb, kortlivad finjustering och när hårdvaruval och kostnad är viktigast.
1. Vast.ai
Vast.ai är plattformen jag oftast använder för att hitta en prisvärd GPU för modelldrifting och LLM-finjustering.
Dess marknadsplats erbjuder ett stort urval av GPU-maskiner som du kan jämföra utifrån hårdvara, VRAM, tillförlitlighet, placering och pris. Varje annons visar tydligt kostnaderna för beräkning och lagring, så att du vet vad du betalar för.
Instanser stöder Jupyter Notebook, webbläsarbaserade terminaler, SSH och VS Code-anslutningar. För snabba tester spenderar jag ofta bara några ören innan jag stänger ner instansen. Tillgänglighet och tillförlitlighet kan dock variera eftersom hårdvaran kommer från olika värdar på marknadsplatsen.
Bäst för: Prisvärda experiment, modelldrifting, LoRA-finjustering och batchinferens.
2. RunPod
RunPod är min favoritplattform för GPU:er, och jag har spenderat hundratals dollar på att använda den för LLM-finjustering och inferens.
Den är snabbare och enklare att använda än Vast.ai, även om bra maskiner kan bli dyra när beräknings- och lagringskostnader räknas in. RunPod fungerar nästan perfekt direkt, med färdiga mallar, JupyterLab, en webbterminal, SSH och VS Code-integration.
Mitt enda senaste problem har varit GPU-tillgänglighet. Populära maskiner är ibland inte tillgängliga, vilket tvingar mig att vänta eller välja ett dyrare alternativ. Trots detta är RunPod fortfarande en av de bästa plattformarna för data scientists som vill träna eller driftsätta modeller utan att lära sig komplex molninfrastruktur.
Jag satte RunPod i arbete i två av våra senaste guider, finjustering av DiffusionGemma för biomedicinsk QA och finjustering av Gemma 4, vilka båda körs från början till slut på en enda RunPod GPU-pod.
Bäst för: Nybörjare, data scientists, LLM-finjustering, modelldrifting och alla som vill ha en GPU-miljö som helt enkelt fungerar.
3. Spheron Network
Spheron är ett bra alternativ för att få tillgång till prisvärda, högpresterande GPU:er utan att behöva hantera AWS eller långtidsavtal.
Det samlar GPU-kapacitet från flera datacenterleverantörer i en instrumentpanel, med VM- och bare-metal-maskiner, full root-SSH-åtkomst, transparent prissättning och minutdebitering.
Det erbjuder allt från RTX 4090- och A100-maskiner till H100, H200 och B200-GPU:er. För större arbetslaster kan du även driftsätta kluster med flera GPU:er och flera noder med NVLink-, InfiniBand- eller RoCE-nätverk. Det är något mer infrastrukturorienterat än RunPod, men ger seriösa LLM-team betydligt större flexibilitet för distribuerad träning.
Bäst för: Prisvärda toppklassiga GPU:er, LLM-träning med flera GPU:er, distribuerade arbetslaster och team som behöver VM- eller bare-metal-åtkomst.
4. TensorDock
TensorDock är en prisvärd GPU-marknadsplats för att starta kompletta virtuella maskiner.
Du väljer GPU, CPU, RAM, lagring, plats och operativsystem, och får en maskin med root-åtkomst. Den erbjuder ett enormt utbud av hårdvara, från billigare konsument-GPU:er till kraftfulla A100- och H100-maskiner.
Det är inte lika klart och färdigt som RunPod. Du ansluter normalt via SSH och konfigurerar din egen miljö, även om Docker ingår i dess VM-mallar, och Jupyter kan sättas upp via tillgängliga portar. Detta ger dig mer kontroll, men du bör vara bekväm med att installera och hantera dina egna verktyg.
Bäst för: Prisvärda GPU-VM:ar, anpassad PyTorch-träning och egenhanterade vLLM- eller TGI-distributioner.
Självbetjänade AI-GPU-moln
Dessa plattformar liknar mindre öppna marknadsplatser och mer att hyra en riktig molnmaskin. Du väljer GPU, startar en VM, ansluter via SSH eller VS Code och skapar din egen miljö för träning, finjustering eller modelldrifting.
5. Hyperstack
Hyperstack ger dig förutsägbar GPU-infrastruktur utan att tvinga dig in i AWS, Azure eller ett komplicerat företagsavtal.
Du väljer GPU-konfiguration, region, operativsystemavbild och SSH-nyckel, och startar sedan en komplett virtuell maskin inom några minuter. Det erbjuder on demand-, spot- och reserverad kapacitet över flera datacenterregioner.
Det är ett bra alternativ när du vill ha en pålitlig maskin för ett längre träningsjobb eller en egenhanterad inferensdistribution. Du behöver fortfarande konfigurera din miljö, men upplevelsen är mycket mer okomplicerad än att bygga allt via en traditionell hyperscaler.
Bäst för: Förutsägbara GPU-VM:ar, långkörande träningsjobb, anpassade miljöer och egenhanterad modelldrifting.
6. Hyperbolic
Jag har spenderat hundratals dollar på Hyperbolic, och jag gillar fortfarande att använda det. För mig har det ofta varit ett av de snabbaste och billigaste sätten att få tillgång till toppklassiga GPU:er. Maskinerna är tillförlitliga, startar snabbt och jag kan ansluta direkt via VS Code, vilket gör att hela upplevelsen nästan känns som att arbeta lokalt.
Hyperbolic erbjuder on demand-GPU-instanser, reserverade kluster, privat molninfrastruktur och ett OpenAI-kompatibelt inferens-API. Det betyder att du kan använda det för ett snabbt finjusteringsexperiment och senare gå över till dedikerad kapacitet eller hanterad inferens utan att byta plattform.
Mitt största problem är tillgängligheten. Det brukade vara mycket enklare att hitta prisvärda enskilda H100- eller A100-maskiner. På sistone har de billigare alternativen ofta inte funnits när jag behöver dem. Jag kan hitta en enskild H200, men många tillgängliga konfigurationer är kluster med 4x eller 8x GPU:er, vilket är alldeles för dyrt och kraftfullt för min normala arbetslast.
Bäst för: Prisvärd högpresterande GPU-beräkning, LLM-finjustering, VS Code-användare, hanterad inferens och team som senare kan behöva reserverade kluster.
AI-moln i företagsklass
Dessa leverantörer är för seriösa AI-arbetslaster. Vi pratar om dedikerade GPU-kluster, höghastighetsnätverk, skalbar lagring, reserverad kapacitet och infrastruktur som kan köras tillförlitligt i månader snarare än några timmar.
7. Nebius
Jag älskar Nebius. Jag har främst använt deras Token Factory för inferens, och det är snabbt, pålitligt och extremt lätt att använda via deras OpenAI-kompatibla API. Du får tillgång till mer än 60 öppna modeller utan att behöva hantera den underliggande infrastrukturen.
Jag började först nyligen utforska GPU-molnet, och det är lika imponerande. Du kan starta enskilda GPU-maskiner eller bygga långkörande kluster med hanterad Kubernetes, lagring och höghastighetsnätverk. Nebius erbjuder också rabatter för att reservera stora kluster under flera månader.
Detta är inte bara en plattform för små experiment. Stora företag använder den redan för seriösa arbetslaster. Till exempel kör Revolut träning och inferens över mer än 200 NVIDIA H100-GPU:er på Nebius, medan Recraft tränade sin modell med 20 miljarder parametrar på plattformen.
Bäst för: Tillförlitlig inferens, långkörande GPU-kluster, distribuerad träning, hanterad Kubernetes och AI-arbetslaster i produktion.
8. Together AI
Together AI är mycket mer än ett inferens-API. Det tillhandahåller hanterad inferens, finjustering, dedikerade slutpunkter och självbetjänade GPU-kluster på en och samma plattform. Du kan träna, anpassa och driftsätta modeller med öppna vikter utan att behöva växla mellan flera olika leverantörer.
Dess GPU-kluster inkluderar toppklassig hårdvara som H100, H200, B200 och GB200-GPU:er, med InfiniBand-nätverk, beständig lagring och stöd för Kubernetes och Slurm. Kluster kan startas on demand eller reserveras för längre arbetslaster.
Detta är troligen överkurs för någon som bara behöver en prisvärd GPU för ett snabbt experiment. Men det är väldigt logiskt för företag som vill ha pålitlig infrastruktur för att träna, finjustera och driftsätta modeller i skala.
Bäst för: Företagsklasser av GPU-kluster, storskalig modellträning, hanterad finjustering, dedikerad inferens och företag som bygger AI-system i produktion.
Utvecklarfokuserade plattformar med bra notebook-stöd
Dessa plattformar är byggda för utvecklare som vill fokusera på sin kod i stället för att lägga timmar på att hantera molninfrastruktur. De tillhandahåller välbekanta verktyg som notebooks och VS Code samtidigt som de hanterar mycket av GPU-tilldelningen bakom kulisserna.
9. Modal
Modal är helt annorlunda än att hyra en vanlig GPU-maskin. Du skriver Python-kod, väljer den GPU du behöver och Modal kör den i en serverlös container. Det kan automatiskt skala från noll till flera GPU:er, och du debiteras baserat på den tid din kod faktiskt använder resurserna.
Det är utmärkt för att driftsätta inferens-API:er, köra utvärderingspipelines, finjustera modeller och hantera arbetslaster som plötsligt behöver fler GPU:er. Modal erbjuder också GPU-notebooks som startar på några sekunder, stöder anpassade miljöer och kan använda upp till åtta A100- eller H100-GPU:er.
Det enda att förstå är att Modal kräver ett annat tankesätt. Du öppnar inte bara en VM och använder den som en fjärrdator. Du definierar din infrastruktur i Python, vilket kan kännas ovant i början men blir extremt kraftfullt när du väl förstår det.
Bäst för: Serverlös inferens, modellevaluering, automatiserade pipelines, finjustering och arbetslaster som behöver skala upp och ner automatiskt.
10. Thunder Compute
Thunder Compute är nästan exakt vad många data scientists vill ha från ett GPU-moln. Du startar en maskin och ansluter till den direkt via VS Code, Cursor, Windsurf, kommandoraden eller Jupyter Notebook. JupyterLab är redan installerat, så du kan börja experimentera utan att lägga timmar på att konfigurera miljön.
Jag gillar särskilt idén med deras VS Code-tillägg. I stället för att ständigt växla mellan en molninstrumentpanel, en SSH-terminal och en lokal editor kan du skapa och öppna GPU-instansen som en fjärrarbetsyta direkt i din editor. Det känns mycket närmare att arbeta på din egen dator, förutom att du nu har tillgång till en kraftfull moln-GPU.
Thunder Compute erbjuder separata lägen för prototyp och produktion. Du kan börja med en enkel maskin för experiment och senare gå över till produktionskonfigurationer med beständig lagring och stöd för flera GPU:er.
Bäst för: Jupyter-baserad forskning, VS Code-användare, modellexperiment, interaktivt data science-arbete och alla som söker ett kraftfullare alternativ till Google Colab.
Hur du väljer rätt GPU-leverantör
Det finns ingen enskilt bästa GPU-leverantör. Rätt val beror på GPU-tillgänglighet, pris, användarvänlighet, lagringskostnader och om du behöver en notebook, en VM, serverlös inferens eller ett helt GPU-kluster:
- Välj Vast.ai, RunPod, Spheron eller TensorDock när du vill ha flexibel kapacitet, brett GPU-utbud och konkurrenskraftiga priser.
- Välj Hyperbolic eller Hyperstack när du vill ha en mer tillförlitlig moln-VM för träning, notebooks eller egenhostad inferens.
- Välj Nebius eller Together AI när du behöver dedikerade kluster, distribuerad träning, reserverad kapacitet eller infrastruktur i produktion.
- Välj Modal eller Thunder Compute när användarvänlighet är viktigast. Modal är idealiskt för serverlösa arbetslaster, medan Thunder Compute passar bättre för välbekanta VS Code- och Jupyter-arbetsflöden.
Avslutande tankar
Jag använder mest Vast.ai, RunPod, Hyperbolic och Modal eftersom de är lätta att använda, flexibla och relativt prisvärda. Vast.ai är oftast mitt förstahandsval för att hitta den billigaste maskinen. RunPod är den enklaste plattformen att använda, Hyperbolic är snabbt och pålitligt när GPU:er finns tillgängliga, och Modal är utmärkt för serverlös inferens och automatiserade arbetslaster.
För väldigt små experiment använder jag fortfarande Google Colab eller en lokal Jupyter Notebook. Men Colab är begränsat, ofta långsamt och inget jag skulle rekommendera för seriös LLM-finjustering, modelldrifting eller långkörande träningsjobb.
Den bästa plattformen är i slutändan den som låter dig komma igång snabbt utan att tvinga dig att bli molninfrastrukturingenjör. Om du ändå vill bli en (eller förstå vad som händer bakom kulisserna) rekommenderar jag att du börjar med vår kurs Understanding Cloud Computing.