{count, plural, one {Cursus} other {Cursussen}}
End-to-End Machine Learning
{hours} uur
16.9K
Steeds meer bedrijven willen machine learning (ML) integreren in hun producten of hun processen verbeteren met ML. Het is daarom belangrijker dan ooit om te begrijpen hoe je de bijbehorende complexiteit in goede banen leidt naast traditionele software.
DevOps werd geïntroduceerd om uitdagingen rond softwareontwikkeling aan te pakken. Het doel is silo’s tussen softwareontwikkelingsteams en operations-teams te doorbreken, wat leidt tot snellere uitrol van nieuwe features en minder pijnlijke releases naar de productieomgeving.
MLOps bouwt voort op deze principes, maar pakt unieke ML-uitdagingen aan, zoals enorme en snel veranderende datasets, modellen die moeten worden bijgehouden en geversioneerd, en monitoring om problemen zoals datadrift of conceptdrift te signaleren.
Hoewel beide disciplines gemeenschappelijke principes delen, verschillen ze sterk in focus, workflows en tools.
In dit artikel verkennen we DevOps en MLOps, waarbij we hun overeenkomsten en verschillen uitlichten en wanneer je welke aanpak gebruikt. We bekijken ook typische workflows en welke tools je gebruikt in de verschillende fasen daarvan.
Laten we beginnen!
Wat is DevOps?
DevOps is een software-engineeringmethodologie die is bedacht om het softwareontwikkelings- en leveringsproces te versnellen. Het hoofddoel is de samenwerking tussen development- en operations-teams te verbeteren. Het overbrugt de kloof tussen deze traditioneel gescheiden functies en maakt snellere, betrouwbaardere softwarelevering mogelijk.
DevOps wil dus een cultuur van samenwerking creëren en zoveel mogelijk automatiseren om de algehele efficiëntie en de snelheid waarmee nieuwe softwarefeatures geleverd kunnen worden te verbeteren.
Tegenwoordig kunnen grote bedrijven zoals Meta, Amazon en vele anderen dagelijks nieuwe softwarefeatures leveren dankzij DevOps.
Als je jezelf wilt verdiepen in dit vakgebied, raad ik de cursus Introduction to DevOps aan.
De belangrijkste doelen van DevOps zijn:
- Snellere softwareontwikkelingscycli: Verkort de tijd tussen het releasen en deployen van een nieuwe feature om frequentere releases te realiseren met behoud van stabiliteit.
- Continuous integration en delivery (CI/CD): Automatiseer integratie van code, testen en deployment-pipelines om de levering te verbeteren.
- Betere samenwerking: Stimuleer nauwe communicatie tussen softwareontwikkelingsteams en operations-teams.
- Operationele efficiëntie: Verminder handmatige taken, minimaliseer fouten en verhoog de productiviteit via automatisering.
DevOps heeft de volgende kernelementen:
- CI/CD-pipelines:
- Geautomatiseerd testen, bouwen en deployen van code.
- Snellere feedbackloops voor developers.
- Minder fouten en meer stabiliteit.
- Infrastructure as Code (IaC):
- Beheer infrastructuur met code in plaats van handmatige processen.
- Zorg voor consistentie en stabiliteit.
- Nieuwe infrastructuur kan binnen seconden en zonder handmatig werk worden opgezet.
- Monitoring en observability:
- Volg systeemprestaties en applicatiegezondheid in realtime.
- Signaleer en los problemen zo vroeg mogelijk op.
Er zijn industriestandaardtools beschikbaar die helpen bij het implementeren van de kernelementen van DevOps. Dit zijn enkele van de populairste:
- CI/CD-tools: Jenkins, GitLab CI/CD, CircleCI.
- IaC-tools: Terraform, Ansible, Chef, Puppet.
- Containerization en orchestration: Docker, Kubernetes.
- Monitoringtools: Prometheus, Grafana, Datadog.
Wat is MLOps?
MLOps breidt de principes van DevOps uit en deelt hetzelfde doel: processen automatiseren. MLOps bestaat uit praktijken die zijn ontworpen om machine learning continu, betrouwbaar en efficiënt in productie te deployen en te onderhouden.
Het cruciale punt hier is dat de focus ligt op machine learning in productie, niet op modellen die lokaal zijn getraind voor kleine experimenten.
MLOps kan alle fasen van de levenscyclus van een machinelearningproject automatiseren en stroomlijnen.
Levenscyclus van een machinelearningproject. Afbeelding door de auteur
Maar waarom hebben we MLOps überhaupt nodig? Waarom zouden we extra moeite steken in het opzetten van heldere workflows en processen? Eerlijk is eerlijk: het is in het begin veel extra werk, en developers kunnen in de verleiding komen dit te negeren om snel een model in productie te zetten. Deze aanpak brengt echter risico’s met zich mee.
Net als bij traditionele softwareontwikkeling leidt het vroegtijdig negeren van nette processen en best practices tot toenemende complexiteit en verminderde onderhoudbaarheid in de tijd.
Dit probleem is in ML-systemen nog groter door de unieke uitdagingen rond het beheren van datadependenties, evoluerende modellen en feedbackloops.
Zoals benadrukt in het invloedrijke artikel “Hidden Technical Debt in Machine Learning Systems,” hopen machinelearningsystemen technische schuld op op manieren waarop traditionele software dat niet doet.
Zonder MLOps-principes zijn de kosten om later een onhandelbaar ML-systeem te refactoren vaak hoger dan de moeite om meteen een robuuste workflow te bouwen.
Ik raad de uitstekende cursus MLOps Concepts aan als je meer over dit vakgebied wilt leren.
De belangrijkste doelen van MLOps zijn:
- Automatisering van de ML-levenscyclus: Vereenvoudig processen zoals dataverzameling, modeltraining, deployment en monitoring en verminder handmatig werk.
- Reproduceerbaarheid en consistentie: Zorg dat experimenten en workflows herhaalbaar zijn, wat leidt tot betrouwbare resultaten.
- Samenwerking: Ondersteun communicatie tussen data scientists, ML-engineers, data engineers en operations-teams.
- Schaalbaarheid: Zorg dat ML-modellen productieworkloads aankunnen en zich kunnen aanpassen aan groeiende data- en gebruiksvraag.
- ML-specifieke uitdagingen adresseren: Ga om met veranderende datadistributies, grote datasets en de noodzaak tot modelretraining.
Laten we nu naar de kernelementen van MLOps gaan:
- Pipelines voor modeltraining en -retraining: Het automatiseren van het trainingsproces omvat:
- Data-preprocessing en feature engineering.
- Modelvalidatie en prestatiebewaking.
- Modellen opnieuw trainen om zich aan te passen aan nieuwe data waar nodig.
- Versiebeheer van modellen en data en experimenttracking:
- Hanteer versiebeheer voor ML-modellen en trainingsdata om wijzigingen in de tijd te documenteren en rollback mogelijk te maken.
- Monitor hyperparameters, metrics en alle uitkomsten van een trainingsrun via experimenttracking.
- Orchestratie van datapipelines:
- Automatiseer datapreparatie, transformatie en validatie. Zorg dat ze betrouwbaar en herhaalbaar zijn.
- Pak uitdagingen met veranderende datasets aan.
- Monitoring en onderhoud:
- Volg continu de prestaties van modellen in productie om issues zoals modeldrift of degradatie zo vroeg mogelijk te detecteren.
- Trigger automatisch modelretraining en automatiseer modeltraining om modellen snel bij te werken wanneer nodig.
- Infrastructure as Code (IaC):
- Gebruik tools als Kubernetes en Terraform om een schaalbare infrastructuur voor je ML-workloads te voorzien en te beheren.
Het MLOps-veld ontwikkelt zich nog razendsnel. Er zijn echter al industriestandaarden beschikbaar om de kernelementen te implementeren:
- Experimenttracking: MLFlow of Weights and Biases.
- Dataversiebeheer: DVC (Data Version Control).
- Pipeline-orchestratie: Apache Airflow, Kubeflow of Dagster.
- Modeldeployment: TensorFlow Serving, Seldon Core, Amazon SageMaker.
- Monitoring: Prometheus, Grafana, WhyLabs.
- Infrastructure as Code: Kubernetes, Docker, Terraform.
Wat is het belangrijkste verschil tussen MLOps en DevOps?
Kunnen MLOps en DevOps samen worden gebruikt?
Wat zijn standaardtools die in MLOps en DevOps worden gebruikt?
Welke skills zijn nodig om MLOps effectief te implementeren?
Onderwerpen
