Comment exécuter Unsloth Studio en local : guide pas à pas

Vous avez probablement déjà entendu parler d’Unsloth. La communauté les connaît pour publier très rapidement des versions quantifiées des nouveaux modèles ouverts, ce qui facilite leur téléchargement, leur chargement et leur exécution sur des environnements d’inférence locaux. Ils se sont aussi forgé une solide réputation grâce à des guides pratiques pour exécuter et affiner les derniers modèles open source sans transformer la configuration en casse-tête. 

Plus récemment, Unsloth Studio rassemble une grande partie de ce flux de travail au même endroit : une interface web locale pour exécuter et entraîner des modèles, avec prise en charge de GGUF et Safetensors, comparaison de modèles côté à côté, réglage automatique des paramètres d’inférence, appel d’outils et une API compatible OpenAI.

Dans ce tutoriel, je vous guide pour préparer l’environnement nécessaire à Unsloth Studio, l’installer en local, lancer l’interface et tester un modèle directement depuis l’UI. Pas de pipeline manuel brouillon, pas besoin de jongler entre cinq outils différents, ni d’écrire du code d’inférence juste pour démarrer. 

Vous pouvez également consulter notre guide sur le fine-tuning avec Unsloth Studio, ainsi que notre guide Unsloth d’origine pour en savoir plus. 

Qu’est-ce qu’Unsloth Studio ?

Unsloth Studio est la nouvelle interface web locale open source d’Unsloth pour exécuter, entraîner et exporter des modèles ouverts depuis un seul endroit. Plutôt que de jongler entre des outils séparés pour l’inférence, le fine-tuning et les tests, tout est regroupé dans une configuration unique que vous pouvez faire tourner sur votre propre machine. 

Unsloth Studio prend en charge les modèles GGUF et Safetensors, fonctionne sur Mac, Windows et Linux, et a été conçu pour simplifier grandement l’expérimentation de modèles en local pour celles et ceux qui préfèrent un flux de travail visuel plutôt que d’assembler des scripts à la main.

Fonctionnalités clé d’Unsloth Studio

Plusieurs points en font un outil particulièrement intéressant :

• Rechercher, télécharger et exécuter des modèles en local depuis une seule interface
• Comparer deux modèles côte à côte
• Utiliser l’appel d’outils auto-corrigeant et la recherche web intégrée
• Régler automatiquement les paramètres d’inférence
• Modifier facilement les modèles de conversation
• Accéder à des APIs compatibles OpenAI
• Affiner des modèles sans code
• Créer automatiquement des jeux de données à partir de fichiers PDF, CSV, JSON, DOCX et TXT
• Exporter des modèles aux formats GGUF et Safetensors 16 bits

Prérequis pour Unsloth Studio

Avant de commencer l’installation, vérifiez que votre système dispose des outils de base pour exécuter Unsloth Studio en local. La configuration reste très abordable, mais si vous souhaitez effectuer du fine-tuning et pas uniquement du chat, il vous faudra un environnement GPU prêt à l’emploi plus complet.

• Python : version 3.11 à 3.13
• Git : nécessaire pour cloner et gérer le dépôt
• CMake : requis pour compiler des composants locaux pendant l’installation
• Outils macOS : Homebrew et OpenSSL peuvent aussi être nécessaires sur macOS
• GPU NVIDIA : requis pour affiner des modèles en local
• Pilotes NVIDIA à jour : recommandés pour éviter les problèmes de configuration, CUDA ou d’entraînement

En clair, le chat local basique est plus simple à faire tourner sur CPU, mais le fine-tuning exige le bon matériel NVIDIA et des pilotes à jour, en plus des outils standards.

Configurer votre environnement RunPod

Pour ce tutoriel, nous allons utiliser une machine RunPod A40. J’aurais pu tout lancer sur mon ordinateur portable, mais je manque d’espace de stockage et ma connexion est trop lente pour télécharger confortablement de gros modèles et dépendances. 

Plutôt que de subir des téléchargements interminables, des builds lents et le risque d’encombrer mon système local, j’utilise RunPod comme option cloud simple, bien plus rapide à mettre en place pour ce flux de travail.

• Commencez par créer un pod A40 et sélectionnez le modèle PyTorch 2.8.0 le plus récent. 
• Avant de le déployer, éditez les paramètres du pod et réglez le disque du conteneur à 50 Go et le volume à 100 Go pour disposer de suffisamment d’espace pour l’installation et les téléchargements de modèles. 
• Exposez également le port HTTP 8888 pour Jupyter Notebook et le port 8910 pour Unsloth Studio. 
• Ajouter votre jeton Hugging Face comme variable d’environnement est optionnel, mais peut accélérer les téléchargements et faciliter l’accès aux modèles sous contrainte.

Une fois tout vérifié, enregistrez les modifications, passez en revue le récapitulatif du pod et déployez-le.

Installer Unsloth Studio

En une minute environ, un lien apparaîtra dans le tableau de bord RunPod pour accéder à JupyterLab. Ouvrez-le, puis lancez un terminal. Vous pouvez aussi utiliser SSH et rediriger les ports en local, ou le terminal web, mais je trouve le terminal de JupyterLab bien plus simple pour ce type de configuration : accès rapide, gestion facile et possibilité d’ouvrir plusieurs terminaux sans souci.

Commencez par mettre à jour pip et installer uv. 

pip install --upgrade pip && pip install uv

Créez ensuite un nouveau dossier pour le projet et placez-vous dedans.

mkdir Unsloth-Studio && cd Unsloth-Studio

Après cela, créez un environnement virtuel avec uv.

uv venv

Vous devriez voir une sortie similaire, indiquant que l’environnement virtuel a bien été créé.

Using CPython 3.12.3 interpreter at: /usr/local/bin/python
Creating virtual environment at: .venv
Activate with: source .venv/bin/activate

Activez maintenant l’environnement virtuel.

source .venv/bin/activate

Une fois l’environnement actif, installez Unsloth avec uv.

uv pip install unsloth --torch-backend=auto

Enfin, lancez la commande de configuration de Studio. Cette étape prend en charge l’installation lourde pour vous : installation de Node.js, npm, compilation de llama.cpp, et installation des paquets Python additionnels requis pour cette exécution.

unsloth studio setup

Une fois la configuration terminée, vous verrez la commande à exécuter pour lancer Unsloth Studio en local.

Lancer Unsloth Studio en local

Souvenez-vous qu’au départ, nous avons exposé le port 8910 lors de l’édition du modèle RunPod. 

Nous allons maintenant lancer Unsloth Studio sur ce port afin d’y accéder directement via le lien RunPod, et pas uniquement via localhost à l’intérieur de la machine.

Exécutez la commande suivante dans le terminal pour démarrer l’inférence web d’Unsloth Studio.

unsloth studio -H 0.0.0.0 -p 8910

Au démarrage, vous devriez voir que le GPU A40 a été détecté, ainsi que les identifiants admin par défaut et le modèle préinstallé prêt à l’emploi. Dans la plupart des cas, un modèle Qwen3.5 4B quantifié est disponible par défaut, ce qui vous permet de tester le Studio immédiatement, sans télécharger un autre modèle.

Au lieu de cliquer sur le lien localhost affiché dans le terminal, retournez sur le tableau de bord RunPod et ouvrez l’onglet Connect. Cliquez ensuite sur le lien du port 8910 pour ouvrir l’interface web d’Unsloth Studio.

Au premier accès, Studio vous demandera de créer un nouveau mot de passe. Définissez-en un afin de protéger l’instance et éviter toute exposition via ce lien public.

Vous serez ensuite dirigé vers le parcours d’onboarding, que vous pouvez passer si vous le souhaitez. Utile pour une visite guidée rapide de l’interface, des boutons et des principales sections, mais non indispensable pour commencer.

Une fois connecté, vous arrivez sur le tableau de bord d’Unsloth Studio. L’interface s’organise autour de quatre onglets principaux. 

Studio pour gérer le fine-tuning, Recipes pour créer des jeux de données à partir de fichiers comme des PDF et des CSV, Export pour sauvegarder des modèles affinés aux formats GGUF ou Safetensors 16 bits, et Chat pour interagir directement avec le modèle.

Tester l’interface de chat d’Unsloth Studio

Cliquez sur l’onglet Chat, puis sur le bouton Sélectionner un modèle en haut à gauche. Comme sur la capture, le modèle Qwen3.5 4B est déjà téléchargé. Cliquez dessus, puis sélectionnez la version quantifiée installée : vous êtes prêt à l’utiliser. Le chargement en mémoire GPU prend quelques secondes.

Pour le tester, nous lui avons donné un problème de mathématiques, et la réponse a été remarquablement rapide, fluide et cohérente.

Vous pouvez aussi activer la recherche web et poser des questions sur des sujets récents. Lorsque cette option est activée, Unsloth Studio effectue d’abord une recherche web, puis transmet les informations récupérées au modèle pour générer une réponse plus étayée.

Comme vous pouvez le voir, il a renvoyé les cinq principaux résultats d’actualité de grandes publications sur le marché boursier.

Vous pouvez également rechercher n’importe quel modèle sur Hugging Face et le télécharger directement dans l’interface. Dans cet exemple, nous avons téléchargé Qwen3.5 9B quantifié en 4 bits.

En cliquant sur le modèle, le téléchargement démarre. Selon la taille du modèle et votre débit, cela peut prendre un certain temps.

Une fois le téléchargement terminé, vous pouvez charger le nouveau modèle. En quelques secondes, Unsloth Studio passe de l’ancien au nouveau modèle, vous donnant accès à une version plus performante.

Nous avons ensuite demandé au nouveau modèle de générer une illustration SVG d’un paresseux.

Il a d’abord raisonné sur la demande, puis généré le code SVG, et a enfin affiché le dessin du paresseux directement dans l’interface.

Cela ressemblait bien à un paresseux, sans être extraordinaire pour autant. Avec un modèle plus grand et plus puissant, vous obtiendrez généralement de bien meilleurs résultats, surtout si votre système dispose d’un GPU plus performant et de suffisamment de RAM.

L’interface de chat d’Unsloth Studio propose également plusieurs options de configuration. Vous pouvez ajuster les paramètres de génération, ajouter un prompt système, modifier le modèle de chat et expérimenter plus librement le comportement du modèle.

En conclusion

Globalement, j’ai vraiment apprécié l’utilisation d’Unsloth Studio. La configuration n’a pas été aussi fluide que prévu, avec quelques points de friction en cours de route, mais une fois le tout opérationnel, l’expérience a complètement changé pour moi. 

Le principal point bloquant a été l’étape unsloth studio setup. Sur le papier, cela paraît simple, mais en pratique, l’installation complète a pris presque 15 à 20 minutes. J’aurais probablement pu réaliser certaines parties moi-même en beaucoup moins de temps. 

Même la documentation mentionne plutôt 5 à 10 minutes, mais dans mon cas, cela a clairement été plus long.

Le deuxième point de friction a concerné le stockage. Je pensais n’avoir besoin que d’un espace modéré, mais la configuration complète a finalement monopolisé presque 100 Go, bien plus que prévu. Je ne suis pas certain de l’origine de tout cet espace utilisé. 

Cela peut venir de l’environnement virtuel, des dépendances téléchargées, des fichiers de modèle, des artefacts de build, ou de certains outils installés plus globalement durant la configuration. Ce point n’était pas très transparent. 

Mais malgré ces points, une fois Unsloth Studio lancé, j’ai sincèrement apprécié l’outil. L’interface est soignée, rapide et étonnamment facile à utiliser. 

Tout est centralisé, le flux de travail est fluide et l’expérimentation de modèles en local devient bien plus accessible. Donc, même si l’installation peut éprouver un peu votre patience, l’expérience produit en vaut la peine.