Principes de base des MLOps
IntermediateSkill Level
14 h
Qu’est-ce que le MLOps ?
En 2015, Google a publié un article de recherche intitulé « Hidden Technical Debt in Machine Learning Systems ». Dans cet article, Sculley et al. montrent que coder des modèles prédictifs de machine learning ne représente qu’une petite partie de la construction, du déploiement et de la maintenance de systèmes de machine learning en production. Le papier a fait l’effet d’un choc dans le domaine et a depuis été confirmé par d’innombrables cas où des data scientists peinent à déployer leurs modèles en production.
Une nouvelle catégorie enthousiasmante, le MLOps (Machine Learning Operations), a émergé ces dernières années pour répondre aux défis de déploiement auxquels font face les équipes data. Le MLOps, ou Machine Learning Operations, est un ensemble d’outils, de pratiques, de techniques et de culture qui assure un déploiement fiable et à l’échelle des systèmes de machine learning. À mesure que la data science arrive à maturité, le MLOps s’impose comme l’une des spécialisations les plus dynamiques, si ce n’est la plus dynamique, que peuvent choisir les data scientists.
Étant donné que le MLOps est encore un domaine naissant, il existe peu de parcours d’apprentissage formalisés. Néanmoins, les communautés open source et machine learning proposent une vaste sélection de ressources gratuites, fiables et immédiatement utiles. Voici 10 ressources gratuites pour débuter dès aujourd’hui votre apprentissage du MLOps.
1. Parcours de compétences MLOps Fundamentals
Le parcours de compétences de DataCamp, MLOps Fundamentals, couvre le cycle de vie complet d’une application de machine learning, depuis la collecte des besoins métiers jusqu’à la conception, le développement, le déploiement, l’exploitation et la maintenance. Ce parcours inclut des cours conceptuels conçus pour étendre vos connaissances en data science vers le monde des logiciels de machine learning en production. À l’issue du parcours, vous serez doté d’un état d’esprit MLOps et maîtriserez des notions telles que CI/CD et CM/CT, le suivi d’expériences, les registres de modèles, les feature stores et différentes stratégies de déploiement.
2. Machine Learning Engineering par Andriy Burkov
Publié initialement en 2020, ce livre est l’un des rares à couvrir les fondamentaux du machine learning appliqué. Plutôt que de se focaliser sur un outil ou un concept, Burkov décortique l’art et la science de la construction et du déploiement d’un projet de machine learning de bout en bout. Tout au long de l’ouvrage, il met en avant les défis les plus courants rencontrés par les équipes data lors du déploiement de modèles en production, ainsi que leurs solutions.
Vous pouvez accéder au livre gratuitement selon le principe « lire d’abord, acheter ensuite » : vous le lisez et ne payez que si vous en retirez de la valeur.
3. ML in Production Blog
Certaines des meilleures ressources sur le MLOps se trouvent dans les newsletters et blogs de data scientists en activité. Le blog et la newsletter ML in Production de Luigi Patruno en sont l’exemple parfait. Il partage régulièrement des contenus pertinents sur le déploiement et la maintenance de modèles en production. Voici sa ligne éditoriale :
- Approche appliquée : contenus centrés sur des outils, des schémas, des plateformes et des systèmes éprouvés en production.
- Focalisé sur les bonnes pratiques : la data science et le machine learning évoluent rapidement. Les profils capables de déployer ces systèmes manquent, tout comme des pratiques établies. La newsletter vise à diffuser ces bonnes pratiques au plus grand nombre.
- Rendre les data scientists plus efficaces : tout le contenu sélectionné aide data scientists, ingénieurs ML et praticiens des données à acquérir et renforcer des compétences à fort impact et valorisées sur le marché.
4. Communauté MLOps
Apprendre le MLOps se fait idéalement à plusieurs et par la pratique. Cette communauté de praticiens vous permet d’écouter, de rejoindre et d’apprendre auprès d’experts du domaine. Entre blogs, vidéos et échanges stimulants, c’est une excellente porte d’entrée pour prendre vos marques.
5. Full Stack Deep Learning
Ce cours propose un contenu de tout premier plan pour apprendre à mettre en production des modèles complexes et de grande taille. Il est enseigné par des enseignants reconnus et des ingénieurs/scientifiques issus d’OpenAI et de Stanford, et inclut des interventions de leaders de sociétés de machine learning parmi les plus inspirantes aujourd’hui, comme Andrej Karpathy (Tesla).
Le cours enseigne une approche full stack du deep learning, notamment :
- Formuler le problème et estimer le coût du projet
- Trouver, nettoyer, annoter et augmenter les données
- Choisir le bon framework et l’infrastructure de calcul
- Déboguer l’entraînement et garantir la reproductibilité
- Déployer les modèles en production
6. Made With ML par Goku Mohandas
Goku Mohandas a créé un cours exceptionnel et ouvert sur la construction de systèmes de machine learning de bout en bout. Made with ML est l’un des principaux dépôts sur GitHub et plus de 30 000 personnes suivent son cours.
Les leçons couvrent les bases du machine learning jusqu’aux aspects pratiques du déploiement, des tests et de la supervision des modèles en production. Les explications de Goku présentent l’intuition derrière les concepts, proposent des projets pratiques et transmettent aux apprenants des bonnes pratiques d’ingénierie logicielle essentielles pour réussir dans un rôle MLOps.
7. Awesome production machine learning
Ce dépôt GitHub richement sélectionné s’adresse à celles et ceux qui souhaitent plonger directement dans les packages, bibliothèques et outils de pointe pour pratiquer par eux-mêmes. Tous les packages et outils listés aident à construire, déployer, superviser, versionner, mettre à l’échelle et sécuriser vos systèmes de machine learning en production.
Qu’il s’agisse d’annotation de données, d’orchestration d’entraînements, d’explicabilité, de serving, de monitoring, et plus encore, vous trouverez forcément plusieurs packages pour expérimenter sur vos projets. Le dépôt relaie aussi la newsletter The ML Engineer, qui vous tient à jour des derniers frameworks, tutoriels et articles sélectionnés par des praticiens du machine learning.
8. Tutoriel MLOps par DVC
DVC (Data Version Control) est un système de gestion de versions open source pour les projets de machine learning. DVC étend Git aux jeux de données et aux modèles. De plus, la même équipe a développé Continuous Machine Learning (CML), un outil permettant d’adapter des systèmes d’intégration continue comme GitHub Actions et GitLab CI au machine learning.
Cette courte série YouTube met en lumière des notions clés à l’intersection de DevOps et du machine learning. Elle équilibre efficacement théorie et pratique et montre comment appliquer la gestion de versions des données avec DVC.
9. Machine Learning Operations
Cette ressource est sans doute l’une des plus complètes. Elle regorge d’articles qui décomposent les différents éléments d’une pratique MLOps réussie. Machine Learning Operations propose des lignes directrices, des cadres méthodologiques, des codes de conduite et tente d’établir un standard pour le MLOps.
Bien que concise, c’est un excellent point de départ qui explique pourquoi le MLOps est important, ses principes clés, ainsi que les outils et frameworks utilisés.
10. MLOps – Machine Learning Operations par AIEngineering
AIEngineering est probablement l’une des meilleures, sinon la meilleure, chaînes YouTube dédiées au machine learning appliqué. Avec plus de 60 000 abonnés, Srivatsan Srinivasan a fédéré une large audience en parlant de tout ce qui touche aux données.
Vous y trouverez de nombreuses vidéos et playlists approfondies sur le MLOps et le déploiement de projets de machine learning de bout en bout. À découvrir absolument.
11. ML Engineering for Production ML Deployments with TFX par TensorFlow
Google a conçu l’un des outils les plus utilisés en machine learning avec TensorFlow et va plus loin avec TensorFlow Extended (TFX). TensorFlow Extended est une plateforme de bout en bout pour déployer des modèles de machine learning. Elle se compose de divers modules pour la validation des données, leur transformation, l’analyse de modèles, et plus encore. TFX permet de concevoir des systèmes de machine learning sans investir des quantités démesurées de temps et d’efforts en ingénierie logicielle.
Cette playlist YouTube, animée par Robert Crowe, Google Developer Advocate, présente les concepts et bonnes pratiques MLOps employés chez Google. Par ailleurs, la documentation TFX est une ressource de grande qualité : tenter d’utiliser le package à l’aide de leurs guides vous en apprendra déjà beaucoup.
Approfondir le MLOps
Bien que le MLOps en soit encore à ses débuts, il est très utile de se familiariser dès maintenant avec les meilleures pratiques et les outils présentés ci-dessus. Si vous souhaitez aller plus loin, consultez aussi :