Een uitgebreide gids voor het gebruik van Azure Spot-instances om kosten te verlagen

Cloud computing is handig voor data science- en AI-toepassingen. Er zijn veel cloudproviders, en de juiste kiezen is cruciaal voor onze toepassing. Een grote uitdaging bij cloud computing is echter het beheersen van de kosten. Wanneer we applicaties en workloads naar de cloud brengen, moeten we ons bewust zijn van de kosten, want de machines in de cloud kunnen erg duur zijn. 

In dit artikel bekijken we Azure Spot Virtual Machines (VM's), ook wel Azure Spot-instances genoemd. Met deze machines kunnen we kosten besparen bij het uitrollen naar Microsoft Azure. Ben je nieuw bij Microsoft Azure en heb je een introductie nodig, bekijk dan onze cursus Introduction to Azure. Voor gevorderde gebruikers is onze cursus Azure Architecture and Services handig. Zoek je tenslotte een snel naslagwerk, dan vind je hier ons eenvoudige overzicht waarin verschillende cloudproviders worden vergeleken: AWS, Azure en GCP Service Comparison for Data Science and AI.  

Laten we in Azure Spot-VM's duiken.

Wat zijn Azure Spot-VM's?

Azure Spot-VM's zijn overtollige virtuele machines binnen de datacenters van Azure op een willekeurig moment. Omdat deze machines op dat moment niet worden gebruikt, biedt Azure ze aan tegen sterk gereduceerde tarieven, soms tot wel 90% korting vergeleken met de standaardprijs van Azure VM's. 

Deze kostenverlaging gaat echter gepaard met onzekerheid. Als de vraag naar VM's van andere gebruikers toeneemt, kan Azure deze Spot-VM's op elk moment met korte waarschuwing terugvorderen. Daardoor zijn Spot-VM's erg onvoorspelbaar. We moeten Spot-VM's dus alleen gebruiken voor taken die geen constante beschikbaarheid vereisen en die onderbroken kunnen worden. Voorbeelden hiervan zijn:

Batchjobs

Batchjobs zijn taken die we op een computer kunnen uitvoeren zonder handmatige tussenkomst. Deze taken worden doorgaans in grote groepen of “batches” verwerkt, sequentieel of parallel. Deze jobs hebben vaak flexibele start- en eindtijden en kunnen daarom gepauzeerd en hervat worden zonder grote verstoring. 

Neem bijvoorbeeld een financiële instelling die aan het einde van elke werkdag transacties moet verwerken. Ze kunnen een batchjob instellen die automatisch de duizenden of miljoenen transacties uit verschillende bronnen laadt, ze valideert en vervolgens de saldi bijwerkt. 

Test- en ontwikkelomgevingen

Test- en ontwikkelomgevingen zijn omgevingen waar softwareontwikkelaars applicaties kunnen bouwen en testen zonder de productieomgeving te beïnvloeden. Het opzetten van deze omgevingen kan kostbaar zijn, en hier kunnen Spot-VM's worden ingezet. 

Stel bijvoorbeeld een team voor dat aan een e-commercewebsite werkt. Ze willen een nieuwe functie proberen die producten aanbeveelt op basis van het browsegedrag van gebruikers. Ze kunnen deze functie ontwikkelen in hun ontwikkelomgeving en vervolgens naar een testomgeving brengen om grondig te testen op bugs, prestatieproblemen en gebruikerservaring. Dit kan in Spot-VM's voor verschillende instellingen. Na succesvol testen kunnen ze de functie in de productieomgeving uitrollen, zodat klanten er gebruik van kunnen maken.

Fouttolerante applicaties

Fouttolerante applicaties zijn applicaties die zonder onderbreking kunnen blijven werken, zelfs wanneer bepaalde componenten uitvallen. Dit kan worden bereikt met ingebouwde redundantie en failovermechanismen. Dergelijke applicaties zijn zeer geschikt voor Spot-VM's. Een voorbeeld is een toepassing met meerdere servers die gebruikersverzoeken afhandelen. Als één server uitvalt, leidt het systeem de verzoeken automatisch om naar een andere server. Omdat dergelijke operaties fouttolerant zijn, kunnen ze op Spot-VM's worden gebruikt om kosten te besparen.

Voordelen van Azure Spot-VM's

Het grootste voordeel van Azure Spot-VM's is de aanzienlijke kostenbesparing. Zoals we al noemden, kan dit oplopen tot 90% korting vergeleken met on-demand VM-prijzen. Door deze korting kunnen we workloads op- of afschalen op basis van de beschikbare capaciteit, waardoor we grootschalige operaties kunnen draaien die anders met on-demand VM's zeer duur zouden zijn. Bovendien kunnen we met Spot-VM's de maximumprijs instellen die we bereid zijn te betalen voor de VM. Dit geeft ons controle over onze uitgaven. 

Wanneer de VM door Azure wordt teruggevorderd, kunnen we ook een uitzettingsbeleid kiezen om te bepalen wat er daarna gebeurt: we kunnen onze VM dealloceren of verwijderen. Als we kiezen voor dealloceren, stopt de VM maar wordt deze niet verwijderd. Zo kunnen we de VM opnieuw starten zodra deze weer beschikbaar is. In de tussentijd betalen we alleen voor de opslagkosten. Als we ervoor kiezen om onze VM te verwijderen, worden alle data en workloads verwijderd. 

Hoe zet je een Spot-VM uit

In deze sectie leggen we uit hoe je een Spot-VM uitrolt en de bijbehorende opties kiest, zoals prijs en uitzettingsbeleid. We kunnen een enkele Spot-VM of een groep Spot-VM's uitrollen, bekend als een Spot VM Scale Set.

Losse Spot-VM's 

De makkelijkste manier is om een VM te maken via de Azure-portal. 

1. Selecteer Virtual Machines onder Services in de portal en klik vervolgens op Create. 
2. Vul op de pagina Create a virtual machine alle gegevens in en vink het selectievakje Run with Azure Spot discount aan. 
3. Vervolgens moeten we het Eviction type en het Eviction Policy selecteren.  
4. Voor het Eviction type kunnen we kiezen uit Capacity only of Price or capacity. Bij Capacity only wordt onze VM uitgezet wanneer de vraag naar VM's bij Azure hoog is. Deze optie stelt de maximumprijs in die we bereid zijn te betalen voor de Spot-VM. Om in plaats daarvan de maximumprijs te beperken, kunnen we Price or Capacity selecteren. We moeten dan de maximumprijs invullen die we bereid zijn te betalen. Bij deze optie zet Azure de VM uit wanneer óf de vraag naar VM's hoog is óf wanneer de kosten van een Spot-VM de opgegeven maximumprijs overschrijden.
5. We moeten ook een uitzettingsbeleid kiezen: dit bepaalt wat er gebeurt als Azure onze machine uitzet. We kunnen kiezen voor Deallocate of Delete. Bij Deallocate stopt de VM, maar worden de data of applicaties op de VM niet verwijderd. We betalen niet voor de VM terwijl deze gestopt is, maar wel voor de bijbehorende opslag. Deze optie is geschikt als we de VM opnieuw willen starten zodra er weer capaciteit beschikbaar is. Als we in plaats daarvan Delete selecteren, worden de VM en alle bijbehorende tijdelijke opslag verwijderd wanneer Azure de instance terugvordert. 

Een virtuele machine maken. Bron: afbeelding door de auteur

We kunnen ook Azure CLI en Azure PowerShell, naast andere methoden, gebruiken om een Spot-VM te starten. Raadpleeg voor meer details de Azure-documentatie over Spot-VM's. 

Spot Virtual Machine Scale Sets (VMSS) 

We kunnen ook groepen Spot-VM's maken, bekend als Spot Virtual Machine Scale Sets. Zoek hiervoor in de Azure-portal naar Virtual Machine Scale Sets en maak er een aan. Met VMSS kunnen we de uitrol en het beheer van meerdere Spot-VM's automatiseren, waardoor het makkelijker wordt om naar behoefte op en af te schalen. We kunnen criteria voor schalen definiëren, zoals CPU-gebruik of netwerkverkeer, en een gewenste capaciteit instellen op basis van onze maximumprijs en beschikbaarheidseisen.

Best practices voor Azure Spot-VM's

We raden deze best practices aan bij het gebruik van Spot-VM's om ervoor te zorgen dat onze workloads veerkrachtig en kosteneffectief blijven.

Controleer capaciteit

Voordat ik Spot-VM's uitrol, controleer ik de beschikbare capaciteit in mijn gewenste regio en voor de VM-groottes die ik wil gebruiken. De capaciteit van Azure fluctueert op basis van de vraag van andere klanten, dus het verifiëren van de beschikbaarheid helpt ons weloverwogen beslissingen te nemen over het uitrollen van onze workloads.

Stel een maximumprijs in

Ik stel de maximumprijs in die ik per uur bereid ben te betalen voor een VM. Dit helpt de kosten te beheersen.

Ontwerp voor onderbrekingen

Aangezien Spot-VM's met korte waarschuwing kunnen worden uitgezet, raad ik aan workloads veerkrachtig te ontwerpen tegen onderbrekingen. Gebruik strategieën zoals checkpointing om periodiek voortgang op te slaan, zodat je kunt hervatten vanaf het laatste checkpoint in plaats van opnieuw te beginnen. Zorg er bij gedistribueerde verwerkingsworkloads voor dat taken kunnen worden herverdeeld over de overgebleven instances, zodat de verwerkingsdoorvoer behouden blijft, zelfs als sommige instances worden uitgezet.

Richt monitoring in

Effectieve monitoring is een andere cruciale strategie voor het efficiënt beheren van Spot-VM's. Azure biedt tools om het gebruik, de kosten en uitzettingsgebeurtenissen van Spot-VM's te volgen. Door deze statistieken te monitoren, krijgen we inzicht in de prestaties van onze Spot-VM's, waardoor we onze strategie waar nodig kunnen bijsturen. 

Azure Spot-VM's vs. gereserveerde instances

Soms kan het, afhankelijk van de toepassing, zinvoller zijn om een gereserveerde VM te gebruiken dan een Spot-VM. Gereserveerde VM's zijn een ander type VM waarmee we ook onze cloudkosten kunnen optimaliseren. In deze sectie leggen we de verschillen tussen deze twee soorten instances uit.

Spot-VM's

Zoals we al hebben gezien, bieden Spot-VM's aanzienlijke kostenbesparingen, soms tot wel 90% vergeleken met on-demand prijzen. Deze instances kunnen echter met korte waarschuwing door Azure worden teruggevorderd, afhankelijk van de capaciteitsvraag. Daarom moeten we spot-instances gebruiken voor workloads die flexibel zijn qua timing en om kunnen gaan met onderbrekingen. Dit omvat batchverwerkingstaken, ontwikkel- en testomgevingen en stateless applicaties die eenvoudig over meerdere instances kunnen worden verdeeld. 

Gereserveerde instances

Gereserveerde instances daarentegen worden aangeschaft voor een termijn van één of drie jaar. We kunnen een specifiek VM-type kiezen met een aanzienlijke korting ten opzichte van on-demand prijzen in ruil voor de toezegging om het een jaar of drie jaar te gebruiken. Het grootste voordeel van gereserveerde instances is dat er geen risico is dat Azure ze uitzet. Als de workload voorspelbare gebruikspatronen heeft en constante beschikbaarheid vereist, zijn gereserveerde instances waarschijnlijk de betere optie.

Samengevat komt de keuze tussen Azure Spot-VM's en gereserveerde instances neer op de specifieke behoeften rond kosten, flexibiliteit en betrouwbaarheid.

Conclusie

Azure Spot-VM's zijn een uitstekende oplossing om kosteneffectief in de cloud te werken. Ze kunnen ons substantiële kortingen opleveren, soms tot wel 90% vergeleken met on-demand prijzen. 

Azure Spot-VM's zijn vooral nuttig voor workloads die flexibel zijn en onderbrekingen kunnen tolereren. Denk aan batchverwerkingstaken, ontwikkel- en testomgevingen of elke applicatie die geen constante uptime vereist. Voor deze workloads kunnen Spot-VM's ons helpen de kosten aanzienlijk te verlagen.

Wil je meer leren over Azure Spot-VM's, bekijk dan deze bronnen:

• Azure Documentation: De officiële Azure-documentatie is een uitstekend startpunt, met gedetailleerde gidsen, best practices en technische referenties over het gebruik van Spot-VM's.

• Community Forums and Support: De Azure-communityforums en ondersteuningskanalen zijn waardevolle bronnen om antwoord te krijgen op specifieke vragen en te leren van de ervaringen van andere Azure-gebruikers.

Vond je dit artikel interessant, bekijk dan ook: Azure DevOps Interview Questions en Using GPT on Azure.