GitHub Models : guide avec exemples pratiques

Qu'est-ce que GitHub Models ?

GitHub Models regroupe des modèles d'IA directement intégrés à la plateforme GitHub pour vous aider à travailler plus intelligemment et plus vite avec le code, les dépôts et la documentation. Avec GitHub Models, vous pouvez :

• Concevoir des prompts dans un éditeur structuré prenant en charge les instructions système, des entrées de test et la configuration des paramètres.
• Comparer les modèles côte à côte en testant des prompts identiques sur différents modèles.
• Évaluer les sorties à l'aide d'indicateurs comme la similarité, la pertinence ou des évaluateurs personnalisés pour suivre les performances.
• Stocker les configurations de prompts sous forme de fichiers .prompt.yml pour le versioning et la reproductibilité.
• Intégrer les modèles en production via des SDK ou l'API REST.

Le contrôle de version vous permet de collaborer sur des prompts comme vous le faites sur du code. Quand vous validez un fichier de prompt, il suit le même processus de pull request : votre équipe voit qui a fait la modification, ce qui a changé et pourquoi.

GitHub Models est une plateforme utile, pensée pour les équipes logicielles qui souhaitent utiliser l'IA tout en l'intégrant finement à leurs workflows existants.

Fonctionnalités clé de GitHub Models

Avant d'entrer dans le détail de l'utilisation de GitHub Models, voici un récapitulatif de ses atouts majeurs :

1. Hébergé par GitHub : vous n'avez pas à gérer de serveurs ni de GPU. Les modèles tournent sur l'infrastructure GitHub, vous bénéficiez donc par défaut d'une sécurité et de performances de niveau entreprise.
2. Prompts et schémas structurés : vous pouvez définir la structure exacte des entrées et sorties via des schémas JSON. Les réponses deviennent prévisibles et faciles à intégrer.
3. Comparaisons multi-modèles : le Playground vous permet de tester des prompts sur plusieurs modèles en parallèle. Vous comparez ainsi coûts et performances pour choisir la meilleure option selon vos besoins.
4. Évaluateurs intégrés : des métriques quantitatives comme la pertinence ou l'ancrage factuel sont proposées. Vous pouvez aussi créer des évaluateurs sur mesure pour des contrôles spécifiques à votre domaine.
5. Parcours d'intégration : utilisez le Playground pour des expériences rapides, l'API REST pour l'automatisation, GitHub Actions pour le CI/CD, et le CLI ou Copilot Chat pour un usage conversationnel.
6. Préréglages et éditeur de prompts : enregistrez un préréglage de votre état de Playground (paramètres, historique de chat, etc.) pour le partager ou l'améliorer plus tard. L'éditeur de prompts vous permet de concevoir vos prompts.

En bref, GitHub Models est conçu pour vous accompagner de l'idée à la production. Vous débutez par des expériences, vous évaluez, puis vous déployez : le tout au même endroit.

Comment utiliser GitHub Models

Vous pouvez interagir avec GitHub Models de plusieurs façons. Le bon chemin dépend de votre objectif : expérimentation, automatisation de workflow ou intégration de l'IA dans une application.

Les sections suivantes détaillent ces méthodes avec des exemples concrets.

Utiliser GitHub Models dans le Playground

Le Playground est mon point de départ préféré. C'est un bac à sable où vous pouvez expérimenter des prompts, ajuster les paramètres et comparer des modèles côte à côte.

Vous y accédez via le GitHub Marketplace ou directement depuis un dépôt.

Commencez par choisir un modèle. Pour l'ouvrir dans le Playground, allez sur GitHub Marketplace et sélectionnez un modèle dans le menu déroulant. Cliquez sur « View all models » pour parcourir le catalogue, puis choisissez « Playground » sur le modèle voulu.

Une fois dans le Playground, vous pouvez ajuster les paramètres comme la température, le nombre maximal de tokens, et les pénalités de présence ou de fréquence.

Capture d’écran d’un prompt système et d’un prompt utilisateur contenant la description d’un bug.

En passant à l’onglet « Code », vous voyez l’appel API correspondant via un SDK dans le langage de votre choix, ce qui vous permet de le reproduire dans vos scripts.

Et en cliquant sur "Compare" à côté de votre modèle, vous pouvez en sélectionner un second pour la comparaison. Le Playground réplique alors votre prompt vers les deux modèles et affiche les réponses côte à côte : idéal pour évaluer des modèles sur des tâches précises.

L'objectif est toutefois de comparer deux modèles non pas à l'intuition, mais selon des métriques objectives. C'est là que les évaluateurs entrent en jeu. Vous pouvez appliquer des évaluateurs comme la similarité ou l'ancrage factuel à chaque sortie, ou écrire vos propres évaluateurs pour des indicateurs spécifiques à votre domaine.

Et si vous trouvez une combinaison prompt‑paramètres efficace, enregistrez-la comme préréglage. Les préréglages conservent votre état, vos paramètres et, si besoin, l'historique du chat. Vous pouvez les recharger plus tard ou les partager via une URL, idéal pour collaborer avec vos collègues.

Création d'un nouveau préréglage pouvant être versionné et partagé avec vos collègues.

Dans mes projets personnels, j'ai utilisé le Playground pour générer des tests unitaires, créer des résumés de commits et même brainstormer des messages d'erreur. C'est la façon la plus rapide de voir ce qu'un modèle peut faire avec le contexte de votre dépôt.

Utiliser GitHub Models via l'API

Le Playground est idéal pour découvrir les modèles, explorer leurs fonctionnalités et expérimenter librement.

Mais je vous invite à aller plus loin : servez-vous de GitHub Models pour automatiser vos workflows ou les intégrer à vos applications. Dans ce cas, vous aurez besoin de l'API GitHub Models.

Voici un aperçu de l'utilisation de l'API brute :

• Endpoint : POST /inference/chat/completions ou /orgs/{org}/inference/chat/completions pour des requêtes au périmètre d'une organisation.
• Authentification : le jeton doit avoir la permission models: read (PAT affiné ou jeton d'application GitHub). L'en-tête Authorization: Bearer <TOKEN> est requis.
• Corps de la requête : fournissez l'ID du modèle (ex. : openai/gpt‑4.1) et un tableau de messages, chacun avec un role (system, user, assistant ou developer) et un contenu. Vous pouvez aussi définir des paramètres comme max_tokens, temperature, frequency_penalty, presence_penalty et response_format.
• Réponse : l'API renvoie un objet JSON avec un tableau choices contenant la réponse du modèle.

Ci-dessous, un exemple Python simple avec requests (en supposant un jeton d'accès personnel disposant du scope models: read).

Vous pouvez créer le jeton dans vos paramètres GitHub.

import osimport requests# Replace with your fine-grained PATtoken = os.getenv('GITHUB_PAT')url = "https://models.github.ai/inference/chat/completions"payload = {    "model": "openai/gpt-4.1",    "messages": [        {"role": "system", "content": "You are a helpful coding assistant."},        {"role": "user", "content": "Explain the concept of recursion."}    ],    "max_tokens": 150,    "temperature": 0.3}headers = {    "Content-Type": "application/json",    "Accept": "application/vnd.github+json",    "Authorization": f"Bearer {token}"}response = requests.post(url, json=payload, headers=headers)print(response.json())

Ce script envoie un prompt de chat au modèle GPT‑4.1 et affiche la réponse de l'assistant. En pratique, vous intégrerez cet appel dans un bot, un workflow CI ou un outil sur mesure.

Vous pouvez aussi consulter l'onglet « Code » dans l'interface du Playground GitHub Models si vous souhaitez utiliser une bibliothèque Python de plus haut niveau pour communiquer avec votre modèle GitHub, ou même un autre langage. Dans l'onglet Code, pour Python, vous pouvez choisir entre l'Azure AI Inference SDK et l'OpenAI SDK.

Section de code pour communiquer avec un modèle GitHub en utilisant l'Azure AI Inference SDK ou l'OpenAI SDK

Je recommande cette approche plutôt que l'utilisation directe de requests, car elle abstrait une partie de la complexité. Mais le code n'est pas disponible pour tous les modèles.

Intégrer des modèles d'IA dans vos workflows

Une fois à l'aise avec le Playground et l'API, la vraie valeur vient de l'intégration des modèles dans vos processus de développement quotidiens. GitHub propose des extensions pour Copilot Chat, GitHub Actions et le CLI GitHub.

Extension Copilot Chat

Si vous avez un abonnement Copilot, installez l'extension GitHub Models pour Copilot. Elle vous permet d'échanger directement avec des modèles spécifiques dans Copilot Chat et même de demander une recommandation de modèle selon vos critères (par ex. : « Quel est un modèle à faible coût qui gère le function calling ? »). Tapez @models VOTRE‑PROMPT dans le chat et choisissez votre modèle.

GitHub Actions

Vous pouvez appeler l'API d'inférence dans un fichier de workflow en configurant la permission models: read et en effectuant une requête HTTP. La documentation GitHub fournit un exemple utilisant curl pour appeler l'API et publier la réponse dans la sortie du workflow.

Voici l'extrait :

name: Use GitHub Modelson: [push]permissions:  models: readjobs:  call-model:    runs-on: ubuntu-latest    steps:      - name: Call AI model        env:          GITHUB_TOKEN: ${{ secrets.GITHUB_TOKEN }}        run: |          curl "https://models.github.ai/inference/chat/completions" \             -H "Content-Type: application/json" \             -H "Authorization: Bearer $GITHUB_TOKEN" \             -d '{              "messages": [                  {                     "role": "user",                     "content": "Explain the concept of recursion."                  }               ],               "model": "openai/gpt-4o"            }'

Extension GitHub CLI

Il m'arrive de préférer la ligne de commande pour interroger un modèle : déformation de développeur passionné.

Si vous préférez aussi le terminal, installez l'outil CLI et l'extension GitHub Models pour le CLI.

Vous trouverez les instructions d'installation du CLI dans la documentation officielle.

Commencez par exécuter gh auth login pour vous connecter à votre compte GitHub.

Sortie de l'authentification avec GitHub CLI (image de l'auteur).

Après authentification, exécutez gh extension install https://github.com/github/gh-models.

Vous pouvez ensuite interroger un modèle en une seule commande :

# ask GPT-4 why the sky is bluegh models run openai/gpt-4.1 "why is the sky blue?"# or start a chat sessiongh models run

Parfait pour les scripts ou pour obtenir des réponses rapides sans quitter votre terminal.

GitHub Models à l'échelle entreprise

Si vous faites partie d'une grande organisation, GitHub Models offre des contrôles et des options de personnalisation de niveau entreprise.

D'après la documentation GitHub, les bénéfices incluent :

• Gestion centralisée des modèles : les administrateurs contrôlent quels modèles et fournisseurs d'IA sont disponibles pour les développeurs de l'organisation.
• Modèles personnalisés : vous pouvez utiliser vos propres clés API LLM pour connecter des modèles externes ou sur mesure, avec une facturation directe via vos abonnements existants.
• Gouvernance et conformité : faites respecter les normes et surveillez l'usage des modèles pour répondre aux exigences GDPR, SOC 2 ou ISO 27001.
• Optimisation des coûts : évaluez le coût et la performance de différents modèles et retenez les plus économiques pour les tâches moins critiques.
• Collaboration et contrôle de version : les prompts et résultats sont stockés dans le dépôt et soumis à des pull requests, permettant aux équipes d'itérer en toute transparence.
• API à haut débit : utilisez l'API REST Models pour gérer les prompts, exécuter des requêtes d'inférence par programmation et intégrer avec GitHub Actions ou des systèmes externes.

Sur de grands projets auxquels j'ai contribué, ces contrôles font la différence. Quand plusieurs équipes expérimentent l'IA, vous ne voulez ni 50 prompts pour la même tâche ni des factures API incontrôlées. GitHub Models permet d'uniformiser les prompts et d'évaluer les modèles à l'échelle, afin que toute l'organisation profite des apprentissages collectifs.

Quand utiliser GitHub Models ?

Avec la profusion d'outils d'IA, quand préférer GitHub Models à des alternatives comme l'API d'OpenAI directement ou Copilot seul ?

Voici quelques repères fondés sur mon expérience :

• Si vous êtes déjà sur GitHub et voulez un minimum de configuration, l'onglet Models et le Playground sont idéaux. Tout est hébergé : vous vous concentrez sur les prompts et l'évaluation, pas sur l'infra.
• Si vous avez besoin de prompts et de réponses structurés (par ex. : sortie JSON pour un pipeline d'étiquetage automatisé), la prise en charge des schémas par GitHub Models garantit la cohérence.
• Si vous devez comparer des modèles ou itérer sur des prompts en équipe, les outils de comparaison et d'évaluation intégrés facilitent grandement l'expérimentation par rapport à des appels manuels à l'API OpenAI.
• Si vous construisez des outils internes (bots, actions, scripts) et souhaitez rester dans l'écosystème GitHub, l'API Models s'intègre naturellement avec GitHub Actions, le CLI et Copilot.
• Si vous expérimentez ou apprenez l'art du prompt engineering, commencez par le Playground. Puis passez à l'intégration via l'API.

En revanche, si vous avez déjà une chaîne de traitement solide avec un autre fournisseur d'IA, ou si vous avez besoin d'un modèle non hébergé par GitHub, conservez votre configuration actuelle. GitHub Models est un outil supplémentaire, pas un remplaçant universel.

Conclusion

Avec GitHub Models, les développeurs peuvent passer de l'idéation de prompts à l'intégration en production sans quitter leurs dépôts.

Vous pouvez expérimenter les modèles dans le Playground, les évaluer avec des métriques intégrées, enregistrer des prompts pour collaborer sous contrôle de version, et appeler les modèles via l'API, GitHub Actions ou le CLI. Pour les équipes « enterprise », GitHub ajoute de la gouvernance, la maîtrise des coûts et la possibilité d'apporter vos propres modèles, répondant ainsi à de nombreux enjeux liés à l'adoption de l'IA en grand compte.

Mon conseil ? Commencez petit. Utilisez le Playground pour tester des prompts, résumer des tickets ou générer de la documentation. Puis intégrez votre meilleur prompt dans une GitHub Action pour une tâche répétitive. Avec le temps, vous verrez où l'IA vous fait gagner le plus. Et comme tout est versionné et transparent, vous renforcez la confiance et optimisez votre workflow au fil de l'eau.