Tutoriel PyCaret : guide du débutant pour automatiser les workflows de ML avec PyCaret

Qu'est-ce que PyCaret

Remarque : ce tutoriel a été créé en 2021 et PyCaret n'est plus activement maintenu ; certaines étapes peuvent ne pas fonctionner avec les versions actuelles de DataLab ou d'autres outils.

PyCaret est une bibliothèque open source de machine learning low-code pour Python, conçue pour automatiser les workflows de ML. C'est un outil de bout en bout pour l'apprentissage automatique et la gestion des modèles qui accélère exponentiellement les cycles d'expérimentation et vous rend plus productif.

Par rapport aux autres bibliothèques open source de machine learning, PyCaret est une alternative low-code capable de remplacer des centaines de lignes de code par seulement quelques lignes. Les expériences deviennent ainsi bien plus rapides et efficaces. PyCaret est essentiellement un wrapper Python autour de plusieurs bibliothèques et frameworks de ML comme scikit-learn, XGBoost, LightGBM, CatBoost, spaCy, Optuna, Hyperopt, Ray, et d'autres.

La conception et la simplicité de PyCaret s'inspirent du rôle émergent des citizen data scientists, un terme introduit par Gartner. Il s'agit d'utilisateurs avancés capables de réaliser des analyses allant de simples à relativement sophistiquées, qui auparavant exigeaient une expertise technique plus pointue.

PyCaret est simple et agréable à utiliser. Toutes les opérations exécutées dans PyCaret sont stockées séquentiellement dans un pipeline entièrement orchestré pour le déploiement. Qu'il s'agisse d'imputer des valeurs manquantes, de transformer des données catégorielles, de faire du feature engineering ou même du réglage d'hyperparamètres, PyCaret automatise tout. Pour en savoir plus sur PyCaret, regardez cette vidéo d'une minute.

Modules dans PyCaret

L'API de PyCaret est organisée en modules. Chaque module prend en charge un type d'apprentissage supervisé (classification et régression) ou non supervisé (clustering, détection d'anomalies, nlp, extraction de règles d'association). Un nouveau module de prévision de séries temporelles est récemment sorti en bêta sous la forme d'un package pip séparé.

Source de l'image : [Ali, Moez].

Installer PyCaret

L'installation de PyCaret via pip est simple et ne prend que quelques minutes. L'installation par défaut de PyCaret n'installe que les dépendances essentielles, telles qu'indiquées dans le fichier requirements.txt du dépôt.

Remarque : ce tutoriel a été créé en 2021 et PyCaret n'est plus activement maintenu ; certaines étapes peuvent ne pas fonctionner avec les versions actuelles de DataLab ou d'autres outils.

pip install pycaret\n

Pour installer la version complète :

pip install pycaret[full]\n

Fonctionnalités

Le principal atout de PyCaret, c'est sa simplicité. Comparé aux autres logiciels d'AutoML, PyCaret est très flexible, propose une API unifiée et ne nécessite pratiquement pas d'apprentissage.

PyCaret regorge de fonctionnalités. Vous pouvez passer du prétraitement de vos données à l'entraînement de modèles, puis à leur déploiement dans le cloud en quelques lignes de code. Il propose de nombreuses transformations de prétraitement appliquées automatiquement lors de l'initialisation de l'expérience. Le zoo de modèles de PyCaret compte plus de 70 modèles non entraînés pour des tâches supervisées et non supervisées.

Vous pouvez également utiliser PyCaret sur GPU et accélérer votre workflow par 10. Pour entraîner des modèles sur GPU, il suffit de passer use_gpu = True dans la fonction setup. Aucun changement de code n'est requis.

PyCaret est une solution « boîte de verre ». Elle offre de nombreuses possibilités d'interagir avec le modèle et d'analyser les performances et les résultats. Tous les graphiques standards, comme la matrice de confusion, l'AUC, les résidus et l'importance des variables, sont disponibles pour tous les modèles. Il intègre également la bibliothèque SHAP, utilisée pour expliquer la sortie de modèles d'apprentissage automatique complexes basés sur des arbres.

(Exemple de beeswarm plot)

PyCaret s'intègre également à MLflow pour ses fonctionnalités MLOps. Il journalise automatiquement les métriques, paramètres et artéfacts lorsque vous passez log_experiment = True dans la fonction setup.

(Image par l'auteur)

Prétraitement dans PyCaret

Toutes les transformations de prétraitement sont appliquées via la fonction setup. PyCaret propose plus de 25 transformations différentes définies dans setup. Cliquez ici pour en savoir plus sur les capacités de prétraitement de PyCaret.

(Image par l'auteur)

Modules dans PyCaret

Exemple : un cas d'usage ML de bout en bout

Voici un workflow type de machine learning. La formulation correcte du problème de ML est la première étape de tout projet de ML et peut prendre de quelques jours à plusieurs semaines.

L'approvisionnement des données et l'ETL (Extract-Transform-Load) varient en complexité selon la maturité technologique et la taille de l'organisation. Il est courant de voir une équipe d'ingénieurs data travailler ensemble à cette phase.

La phase d'analyse exploratoire (EDA) consiste à explorer les données brutes pour évaluer leur qualité (valeurs manquantes, valeurs aberrantes, etc.), les corrélations entre variables et à tester des hypothèses métier.

Pour la préparation des données, l'entraînement et la sélection des modèles, PyCaret fait tout le travail en coulisses. La préparation inclut l'imputation des valeurs manquantes, la mise à l'échelle (min‑max, z‑score, etc.), l'encodage catégoriel (one-hot encoding, encodage ordinal, etc.), le feature engineering (polynômes, interactions, ratios, etc.) et la sélection de variables.

Après la préparation, la phase d'entraînement et de sélection consiste à ajuster plusieurs algorithmes et à évaluer leurs performances via une stratégie de test (le plus souvent la validation croisée).

Enfin, le modèle retenu est déployé en tant que point de terminaison d'API pour l'inférence. Une fois déployé, le suivi de l'API et la surveillance des performances du modèle en production s'inscrivent dans la durée.

(Image par l'auteur)

Définition du problème

Prédire le prix d'un diamant à partir d'attributs tels que la coupe, la couleur, la forme, etc.

Approvisionnement des données

# charger le jeu de données depuis pycaret\nfrom pycaret.datasets import get_data\ndata = get_data('diamond')\n

Analyse exploratoire des données (EDA)

Faisons quelques visualisations rapides pour évaluer la relation entre les variables explicatives (poids, coupe, couleur, pureté, etc.) et la variable cible, le prix :

# nuage de points carat_weight et Price\nimport plotly.express as px\nfig = px.scatter(x=data['Carat Weight'], y=data['Price'], facet_col = data['Cut'], opacity = 0.25, trendline='ols', trendline_color_override = 'red')\nfig.show()\n

Regardons l'histogramme de la variable cible Price.

# tracer l'histogramme\nfig = px.histogram(data, x=[\"Price\"])\nfig.show()

On observe que la distribution de Price est asymétrique à droite ; vérifions rapidement si une transformation logarithmique peut modifier la forme de la distribution de la cible.

# tracer l'histogramme\ndata['logged_Price'] = np.log(data['Price'])\nfig = px.histogram(data, x=[\"logged_Price\"])\nfig.show()

Nettoyage et préparation des données

Toutes les expériences PyCaret doivent être initialisées avec la fonction setup. Elle prend en charge l'ensemble des tâches de préparation nécessaires avant l'entraînement. Au-delà des traitements par défaut, PyCaret offre un large éventail de fonctionnalités de prétraitement. Cliquez ici pour découvrir toutes les fonctionnalités de prétraitement de PyCaret.

# initialiser setup\nfrom pycaret.regression import *\ns = setup(data, target = 'Price', transform_target = True, log_experiment = True, experiment_name = 'diamond')\n

Lorsque vous initialisez setup dans PyCaret, le jeu de données est profilé et les types sont inférés pour toutes les variables d'entrée. Si tout est correct, appuyez sur Entrée pour continuer. Un paramètre permet aussi d'outrepasser les types de données dans PyCaret. Et si vous utilisez PyCaret dans un script Python, vous pouvez désactiver cette confirmation en passant silent = True à setup.

(Sortie de setup — tronquée pour l'affichage)

Entraînement et sélection du modèle de ML

Après setup, les données transformées sont prêtes pour l'entraînement. Lancez l'entraînement avec compare_models. Cette fonction entraîne tous les algorithmes disponibles dans le zoo de modèles et évalue plusieurs métriques via une validation croisée k-fold.

# comparer tous les modèles\nbest = compare_models()\n

(Sortie de compare_models)

La sortie de compare_models présente les métriques moyennes validées en croix pour tous les modèles. Par défaut, le tri se fait par \u2018R2\u2019 (décroissant), mais vous pouvez le modifier via le paramètre sort de compare_models.

Le meilleur modèle (ici, CatBoost Regressor) est renvoyé à la fin de compare_models. Seul le meilleur modèle est retourné par défaut, mais vous pouvez changer ce comportement avec n_select. Par exemple, n_select = 3 renverra la liste des 3 meilleurs modèles.

# vérifier les paramètres finaux du meilleur modèle\nbest.get_params()\n

On peut également consulter les diagnostics et quelques graphiques d'analyse avec plot_model.

# vérifier les résidus du modèle entraîné\nplot_model(best, plot = 'residuals_interactive')\n

plot_model(best, plot = \u2018feature\u2019)\n

La fonction evaluate_model offre un moyen pratique de parcourir tous les graphiques d'analyse disponibles dans Jupyter Notebook.

evaluate_model(best)\n

Déploiement et supervision du modèle de ML

Nous pouvons maintenant utiliser le modèle final pour générer des prédictions sur des données non vues avec la fonction predict_model :

# copier les données et retirer la variable cible\ndata_unseen = data.copy()\ndata_unseen.drop(\u2018Price\u2019, axis = 1, inplace = True)\npredictions = predict_model(best, data = data_unseen)\n

Pour un usage ultérieur, vous pouvez enregistrer tout le pipeline avec save_model.

save_model(best, \u2018my_best_pipeline\u2019)\n

Journalisation des expériences

Rappelez-vous, nous avons passé log_experiment = True dans setup, avec experiment_name = 'diamond'. Voyons ce que PyCaret a fait en coulisses. Pour la démonstration, lançons le serveur MLflow :

# dans le notebook\n!mlflow ui\n\n# depuis la ligne de commande\nmlflow ui\n

Ouvrez ensuite votre navigateur et tapez \u00ab localhost:5000 \u00bb. Vous verrez une interface comme celle-ci :

Chaque ligne du tableau représente une exécution d'entraînement donnant lieu à un pipeline entraîné et à un ensemble de métadonnées : date et heure, métriques de performance, hyperparamètres du modèle, tags, etc. Cliquons sur l'un des modèles :

Prévision de séries temporelles avec PyCaret

Le nouveau module time series de PyCaret est désormais disponible en bêta. Fidèle à la simplicité de PyCaret, il est cohérent avec l'API existante et très riche en fonctionnalités : tests statistiques, entraînement et sélection de modèles (30+ algorithmes), analyse de modèles, réglage automatique des hyperparamètres, journalisation des expériences, déploiement dans le cloud, et plus encore. Tout cela en quelques lignes de code, comme les autres modules PyCaret. Pour utiliser ce module en bêta, vous devez l'installer dans un environnement conda séparé afin d'éviter les conflits de dépendances.

pip install pycaret-ts-alpha

Les séries temporelles font partie des types de données les plus courants, et savoir les manipuler est une compétence essentielle si vous souhaitez prédire et analyser des tendances. Si vous souhaitez approfondir l'analyse et la prévision de séries temporelles en Python, DataCamp propose une excellente sélection de cours. Vous pouvez commencer par le parcours Time Series with Python ou choisir l'un de ces cours :

\n
• Introduction to Time Series Analysis in Python
\n
• Machine Learning for Time Series Data in Python
\n
• Time Series Analysis Tutorial
\n

Intégrations PyCaret

FAQ PyCaret

\n
1. \n

   PyCaret est-il disponible uniquement en Python ? Oui, PyCaret n'est pour l'instant disponible qu'en Python.

   \n
\n
2. \n

   Quelle est la différence entre PyCaret et d'autres bibliothèques open source comme scikit-learn, XGBoost, LightGBM ? Par rapport à ces bibliothèques, PyCaret est une alternative low-code qui remplace des centaines de lignes de code par quelques lignes seulement. PyCaret est essentiellement un wrapper Python autour de bibliothèques et frameworks de ML tels que scikit-learn, XGBoost, LightGBM, CatBoost, spaCy, Optuna, Hyperopt, Ray, et d'autres.

   \n
\n
3. \n

   Quels cas d'usage sont pris en charge par PyCaret ? Depuis la version 2.3.4, PyCaret prend en charge la classification binaire/multi-classes, la régression, le clustering, la détection d'anomalies, le traitement du langage naturel (modélisation de sujets) et l'extraction de règles d'association. PyCaret a aussi récemment publié en bêta son nouveau module de séries temporelles sous forme d'un installateur pip séparé.

   \n
\n
4. \n

   Peut-on utiliser PyCaret sur GPU ? Oui, vous pouvez entraîner des modèles sur GPU avec PyCaret et accélérer votre flux de travail par 10. Pour cela, passez simplement use_gpu = True dans setup. Aucun changement d'API n'est requis ; toutefois, dans certains cas, des bibliothèques supplémentaires doivent être installées car elles ne le sont pas par défaut, même avec la version full.

   \n
\n
5. \n

   Peut-on régler les hyperparamètres d'un modèle dans PyCaret ? Oui, vous pouvez régler automatiquement les hyperparamètres de n'importe quel modèle dans PyCaret. Il s'intègre à sklearn, optuna, tune-sklearn et ray pour différents optimiseurs comme la recherche aléatoire sur grille ou la recherche bayésienne.

   \n
\n
6. \n

   PyCaret est-il gratuit ? PyCaret est entièrement gratuit, open source et distribué sous licence MIT.

   \n
\n