MLOps Fundamentals
IntermediateSkill Level
14 uur
Wat is MLOps?
In 2015 bracht Google een onderzoeksartikel uit met de titel “Hidden Technical Debt in Machine Learning Systems”. In dit artikel benadrukten Sculley et al. dat het schrijven van voorspellende machinelearningmodellen maar een klein deel is van het bouwen, uitrollen en onderhouden van machinelearningsystemen in productie. Het artikel sloeg in als een bom in het vakgebied en is sindsdien bevestigd door talloze gevallen van data scientists die moeite hebben om hun modellen in productie te brengen.
De afgelopen jaren is de spannende nieuwe categorie MLOps (Machine Learning Operations) ontstaan met als doel de uitroldilemma’s op te lossen waar datateams mee te maken hebben. MLOps, of Machine Learning Operations, is een set van tools, praktijken, technieken en cultuur die zorgen voor betrouwbare en schaalbare uitrol van machinelearningsystemen. Naarmate data science volwassen wordt, is MLOps een van de snelst groeiende specialisaties waaruit data scientists kunnen kiezen.
Omdat MLOps nog zo’n jong vakgebied is, zijn er niet veel vastomlijnde leerroutes. Toch heeft de open-source- en machinelearningcommunity een breed scala aan gratis, betrouwbare en direct nuttige resources beschikbaar gemaakt. Hier zijn 10 gratis resources waarmee je vandaag kunt beginnen aan je MLOps-leertraject.
1. MLOps Fundamentals Skill Track
DataCamp's skill track, MLOps Fundamentals, dekt de volledige levenscyclus van een machinelearningapplicatie, van het verzamelen van zakelijke vereisten tot de ontwerp-, ontwikkel-, uitrol-, operatie- en onderhoudsfase. Deze track bevat conceptuele cursussen die je helpen je data science-kennis uit te breiden naar de wereld van machinelearningsoftware in productie! Na afronding van de track beschik je over een MLOps-mentaliteit en ben je goed bekend met concepten als CI/CD en CM/CT, experimenttracking, modelregisters, feature stores en verschillende uitrolstrategieën
2. Machine Learning Engineering door Andriy Burkov
Oorspronkelijk uitgebracht in 2020, is dit boek een van de weinige die de basis van toegepaste machine learning behandelt. In plaats van zich te richten op een specifieke tool of concept, ontleedt Burkov de kunst en wetenschap van het bouwen en uitrollen van een end-to-end machinelearningproject. Door het hele boek heen belicht hij de meest voorkomende uitdagingen waar datateams mee te maken krijgen bij het uitrollen van machinelearningmodellen in productie en hun oplossingen.
Je kunt het boek gratis lezen volgens het principe “eerst lezen, later kopen” — je kunt het dus lezen en later betalen als het je waarde heeft opgeleverd.
3. ML in Production Blog
Sommige van de beste MLOps-resources zijn te vinden in nieuwsbrieven en blogs van actieve data scientists. Luigi Patruno’s ML in Production Blog and Newsletter zijn daar het beste voorbeeld van. Hij deelt regelmatig inzichtelijke content over het uitrollen en onderhouden van modellen in productie. Zo beschrijft hij zijn curator-aanpak:
- Toegepast — De content is gericht op tools, patronen, platforms en systemen die zich in productie hebben bewezen.
- Gefocust op best practices — Data science en machine learning veranderen razendsnel. Er is een tekort aan mensen met de juiste vaardigheden om deze systemen uit te rollen en een gebrek aan gevestigde best practices. De nieuwsbrief wil deze best practices cureren voor de bredere community.
- Bedoeld om data scientists effectiever te maken in hun werk — Alle gecureerde content is erop gericht data scientists, ML-engineers en dataprofessionals te helpen om impactvolle, goed inzetbare skills te ontwikkelen en te verbeteren.
4. MLOps Community
MLOps leer je het beste samen en al doende. Dit is een community van mede-practitioners waar je kunt afstemmen (of bij aansluiten) en kunt leren van andere ervaren professionals in het vak. Van blogs en video’s tot levendige discussies: deze resource is een uitstekende manier om je basis in dit domein te versterken.
5. Full Stack Deep Learning
Deze cursus biedt content van zeer hoge kwaliteit over hoe je complexe, grote modellen naar productie brengt. De cursus wordt niet alleen gegeven door gerenommeerde docenten zoals engineers en wetenschappers van OpenAI en Stanford, maar bevat ook gastcolleges van leiders van toonaangevende machinelearningbedrijven, zoals Andrej Karpathy van Tesla.
Deze cursus leert een full-stack benadering van deep learning, waaronder
- Het formuleren van het probleem en het inschatten van de projectkosten
- Data vinden, opschonen, labelen en vergroten
- Het kiezen van het juiste framework en de juiste compute-infrastructuur
- Training troubleshootEN en reproduceerbaarheid waarborgen
- Modellen uitrollen naar productie
6. Made With ML door Goku Mohandas
Goku Mohandas heeft een fenomenale en open cursus gemaakt over het bouwen van end-to-end machinelearningsystemen. Made with ML is een van de populairste repositories op GitHub, en meer dan 30K+ mensen volgen zijn cursus.
De lessen in Made with ML behandelen de basis van machine learning tot en met alles rondom het uitrollen, testen en monitoren van modellen in productie. Goku’s lessen behandelen de intuïtie achter de geïntroduceerde concepten, bieden praktijkgerichte opdrachten en reiken cursisten enkele software-engineeringbest practices aan die nodig zijn om te slagen in een MLOps-rol.
7. Awesome production machine learning
Deze sterk gecureerde GitHub-repository is voor wie meteen wil duiken in packages, libraries en geavanceerde tools om zelf te oefenen. Alle genoemde packages en tools zijn ontworpen om je te helpen bij het bouwen, uitrollen, monitoren, versioneren, schalen en beveiligen van je productionele machinelearningsystemen.
Of het nu gaat om datalabeling, orkestratie van modeltraining, verklaarbaarheid, serving, monitoring en meer — er zitten hier zeker meerdere packages tussen om in je projecten mee te experimenteren. Ze hebben ook The ML Engineer-nieuwsbrief die je op de hoogte houdt van de nieuwste frameworks, tutorials en artikelen, gecureerd door machinelearningpractitioners.
8. MLOps Tutorial door DVC
DVC (Data Version Control) is een open-sourceversiebeheersysteem voor machinelearningprojecten. DVC breidt Git-versiebeheer uit naar datasets en modellen. Bovendien heeft hetzelfde team achter DVC ook Continuous Machine Learning (CML) ontwikkeld, een tool om continuous integration-systemen zoals GitHub Actions & GitLab CI aan te passen voor machine learning.
Deze relatief korte YouTube-serie belicht belangrijke concepten op het snijvlak van DevOps en Machine Learning. De serie balanceert theorie en praktijk effectief en laat zien hoe je dataversiebeheer toepast via DVC.
9. Machine Learning Operations
Deze resource is waarschijnlijk een van de meest uitgebreide. Hij staat vol met posts die de verschillende elementen van een succesvolle MLOps-praktijk uiteenzetten. Machine Learning Operations presenteert richtlijnen, raamwerken, gedragscodes en probeert de standaard voor MLOps te zetten.
Hoewel kort, is dit een uitstekend startpunt dat uitlegt waarom MLOps belangrijk is, de kernprincipes van een succesvolle MLOps-praktijk, de tools en raamwerken die in MLOps worden gebruikt, en meer.
10. MLOps – Machine Learning Operations door AIEngineering
AIEngineering is waarschijnlijk een van de beste, zo niet de beste YouTube-kanalen voor toegepaste machine learning. Met meer dan 60k abonnees heeft Srivatsan Srinivasan een schare fans opgebouwd door alles rondom data te bespreken.
Hij heeft talloze diepgaande video’s en afspeellijsten over MLOps en het uitrollen van end-to-end machinelearningprojecten. Zeker het bekijken waard.
11. ML Engineering for Production ML Deployments with TFX door TensorFlow
Google heeft met TensorFlow een van de meest gebruikte tools in machine learning gebouwd. Ze tillen het naar een hoger niveau met TensorFlow Extended (TFX). TensorFlow Extended is een end-to-end platform voor het uitrollen van machinelearningmodellen. Het bestaat uit verschillende packages voor datavalidatie, transformatie, modelanalyse en meer. TFX is gebouwd om eenvoudig machinelearningsystemen te ontwerpen zonder buitensporig veel tijd en moeite in software-engineeringwerk te stoppen.
Deze YouTube-afspeellijst wordt geleid door Google Developer Advocate Robert Crowe en introduceert je in kernconcepten en best practices in MLOps die bij Google worden gebruikt. Daarnaast is de TFX-documentatie ook uitstekend leesmateriaal — alleen al proberen dat pakket te gebruiken met hun gidsen kan je veel leren.
Meer leren over MLOps
Hoewel MLOps nog in de kinderschoenen staat, is er veel waarde in een voorsprong nemen met de nieuwste best practices en tools uit de bovenstaande resources. Als je meer over MLOps wilt leren, kun je ook de volgende resources bekijken:
Onderwerpen
