GitHub Models：实用示例指南

了解什么是 GitHub Models，以及它如何通过将 AI 能力集成到开发工作流中来提升生产力。

已更新 2026年10月6日 · 12分钟阅读

使用 AI 探索

ChatGPT Claude Perplexity

什么是 GitHub Models？

GitHub Models 是直接内置于 GitHub 平台的 AI 模型，帮助您更聪明、更高效地处理代码、代码库和文档。通过 GitHub Models，您可以：

在结构化编辑器中开发提示词，支持系统指令、测试输入和参数配置。
并排比较模型，在不同模型上用相同的提示词进行试验。
评估输出结果，使用相似度、相关性或自定义评估器等指标跟踪表现。
将提示词配置存储为 .prompt.yml 文件，以便进行版本控制与可复现性。
将模型集成到生产环境，通过 SDK 或 REST API。

版本控制让您可以像协作代码一样协作提示词。提交提示词文件后，它会经历相同的拉取请求流程，团队即可了解由谁、改了什么、为何修改。

GitHub Models 是为希望使用 AI 且与现有工作流深度集成的软件团队打造的实用平台。

GitHub Models 的核心功能

在深入讲解如何使用 GitHub Models 之前，先简单概述其核心功能：

由 GitHub 托管：无需管理服务器或 GPU。模型运行在 GitHub 基础设施上，默认即可获得企业级安全与性能。
结构化提示词与架构：您可以通过 JSON 架构精确定义输入与输出结构，使响应可预测且易于集成。
多模型对比：Playground 可同时针对多个模型测试提示词，便于按成本与性能对比，选择最适合的方案。
评估工具：内置评估器提供定量指标，如相关性或基于事实性。您也可编写自定义评估器用于特定领域校验。
集成路径：使用 Playground 快速试验；用 REST API 做自动化；借助 GitHub Actions 实现 CI/CD；通过 CLI 或 Copilot Chat 进行对话式使用。
预设与提示词编辑器：保存包含参数、聊天历史等在内的 Playground 状态为预设，便于分享与后续迭代。提示词编辑器可用于设计提示词。

总之，GitHub Models 旨在帮助您将想法从概念走向生产。您可以先做试验、再评估、然后部署——全部在同一处完成。

如何使用 GitHub Models

您可以通过多种方式与 GitHub Models 交互。选择哪条路径取决于您是在做试验、自动化工作流，还是将 AI 集成到应用中。

下文将详细说明这些方法，并给出相关示例。

在 Playground 中使用 GitHub Models

Playground 是我最喜欢的起步方式。它是一个沙盒，您可以在其中试验提示词、调整参数，并将模型并排比较。

您可以通过 GitHub Marketplace 或直接从代码库进入。

首先选择一个模型。要在 Playground 打开某个模型，请前往 GitHub Marketplace，并从下拉菜单中选择模型。您可以点击“View all models”浏览目录，然后在任意模型上选择“Playground”。

从 GitHub 模型市场选择模型并将其添加到 Playground 的屏幕录制

进入 Playground 后，您可以调整诸如温度、最大 tokens，以及出现/频率惩罚等参数。

系统提示词与包含错误描述的用户提示词的截图。

切换到“Code”选项卡，会显示使用您所选编程语言的 SDK 发起的对应 API 调用，便于在脚本中复现。

如果您点击模型旁的“Compare”，即可选择第二个模型进行对比。Playground 会将提示词同时发送给两个模型，并将结果并排展示。该功能非常适合针对特定任务比较模型。

在 Playground 视图中对两个模型进行并排比较

不过，比较两个模型时，您主要希望依赖客观指标，而非仅凭直觉。这正是评估器发挥作用的地方。您可以对每个输出应用相似度或基于事实性等评估器，或为特定领域编写自定义评估器。

若找到满意的提示词与参数组合，可将其保存为预设。预设会存储您的状态、参数和可选的聊天历史。您可以稍后加载预设，或通过 URL 分享，非常适合与队友协作。

创建可进行版本管理并与队友分享的新预设。

在我的私有项目中，我曾用 Playground 生成单元测试、创建提交摘要，甚至头脑风暴错误信息。这是用您的代码库上下文快速验证模型能力的最佳方式。

通过 API 使用 GitHub Models

Playground 很适合熟悉模型、探索其功能并进行玩耍式试验。

但我建议更进一步，利用 GitHub Models 来自动化工作流，或将其集成到您的应用中。在这种情况下，您需要使用 GitHub Models API。

以下是使用原始 API 的概览：

端点：POST /inference/chat/completions 或 /orgs/{org}/inference/chat/completions（组织范围请求）。
认证：令牌需具备 models: read permission（细粒度 PAT 或 GitHub App 令牌）。必须提供 Authorization: Bearer <TOKEN> 请求头。
请求体：提供 model ID（例如 openai/gpt‑4.1）以及消息数组，每条消息包含 role（system、user、assistant 或 developer）和内容。您还可以设置 max_tokens、temperature、frequency_penalty、presence_penalty 与 response_format 等参数。
响应：API 返回的 JSON 对象包含 choices 数组，其中含有模型的回复。

下面是一个使用 requests 的简单 Python 示例（假设您已拥有具备 models: read 权限的个人访问令牌）。

您可以在GitHub 设置中创建该令牌。

import osimport requests# Replace with your fine-grained PATtoken = os.getenv('GITHUB_PAT')url = "https://models.github.ai/inference/chat/completions"payload = {    "model": "openai/gpt-4.1",    "messages": [        {"role": "system", "content": "You are a helpful coding assistant."},        {"role": "user", "content": "Explain the concept of recursion."}    ],    "max_tokens": 150,    "temperature": 0.3}headers = {    "Content-Type": "application/json",    "Accept": "application/vnd.github+json",    "Authorization": f"Bearer {token}"}response = requests.post(url, json=payload, headers=headers)print(response.json())

该脚本向GPT‑4.1 模型发送聊天提示词，并打印助手的回复。在实践中，您可以将此调用嵌入到机器人、CI 工作流或自定义工具中。

如果您希望使用更高级的 Python 库与 GitHub 模型通信，或想使用其他编程语言，也可以查看 GitHub Models Playground UI 中的“Code”选项卡。在该选项卡中，就 Python 而言，您甚至可以在 Azure AI Inference SDK 与 OpenAI SDK 之间进行选择。

使用 Azure AI Inference SDK 或 OpenAI SDK 与 GitHub 模型通信的代码部分

相比直接使用 requests 包，我更推荐这种方式，因为它能抽象掉一部分复杂性。但并非所有模型都提供该代码。

将 AI 模型集成到工作流

当您熟悉了 Playground 与 API 之后，真正的威力来自将模型集成到日常开发流程中。GitHub 提供了 Copilot Chat、GitHub Actions 与 GitHub CLI 的扩展。

Copilot Chat 扩展

如果您订阅了 Copilot，请安装GitHub Models Copilot 扩展。它允许您在 Copilot Chat 中直接与特定模型对话，甚至可以让扩展基于条件推荐模型（例如：“支持函数调用且成本较低的模型有哪些？”）。您可以在聊天中输入 @models YOUR‑PROMPT 并选择模型。

GitHub Actions

您可以在工作流文件中设置 models: read 权限后，通过发起 HTTP 请求来调用推理 API。GitHub 文档提供了一个使用 curl 调用 API 并将响应发布到工作流输出的示例。

示例如下：

name: Use GitHub Modelson: [push]permissions:  models: readjobs:  call-model:    runs-on: ubuntu-latest    steps:      - name: Call AI model        env:          GITHUB_TOKEN: ${{ secrets.GITHUB_TOKEN }}        run: |          curl "https://models.github.ai/inference/chat/completions" \             -H "Content-Type: application/json" \             -H "Authorization: Bearer $GITHUB_TOKEN" \             -d '{              "messages": [                  {                     "role": "user",                     "content": "Explain the concept of recursion."                  }               ],               "model": "openai/gpt-4o"            }'

GitHub CLI 扩展

有时我更喜欢用命令行向模型发送一些查询，毕竟我是个地道的开发极客。

如果您也偏好命令行，请安装 CLI 工具与 GitHub Models CLI 扩展。

有关安装 CLI 工具的说明，请参见官方CLI 文档。

首先运行 gh auth login 登录您的 GitHub 帐号。

使用 GitHub CLI 进行认证的输出（作者供图）。

认证后，运行 gh extension install https://github.com/github/gh-models。

随后，您可以用一条命令对模型进行提示：

# ask GPT-4 why the sky is bluegh models run openai/gpt-4.1 "why is the sky blue?"# or start a chat sessiongh models run

这非常适合编写脚本，或在不离开终端的情况下快速获取答案。

企业级规模下的 GitHub Models

如果您身处大型组织，GitHub Models 提供企业级控制与定制能力。

根据 GitHub 的文档，其优势包括：

集中化的模型管理：管理员可控制组织内开发者可用的 AI 模型与提供商。
自定义模型：您可以使用自有 LLM API 密钥连接外部或自定义模型，让组织通过现有订阅直接付费。
治理与合规：执行标准并监控模型使用情况，以确保符合 GDPR、SOC 2 或 ISO 27001 要求。
成本优化：评估不同模型的成本与性能，为非关键任务选择性价比更高的模型。
协作与版本控制：提示词与结果存储在代码库中，并受拉取请求流程约束，团队可在完全可见的前提下迭代。
高吞吐量 API：使用 Models REST API 管理提示词、以编程方式发起推理请求，并与 GitHub Actions 或外部系统集成。

在我参与的大型项目中，这些控制至关重要。当多个团队都在试验 AI 时，您不希望针对同一任务出现 50 个提示词，或 API 账单失控。GitHub Models 使您能够在团队间统一提示词并评估模型，确保整个组织受益于集体经验。

何时应使用 GitHub Models？

在众多 AI 工具中，何时应选择 GitHub Models，而不是直接使用 OpenAI 的 API 或仅用 Copilot？

以下是基于我经验的一些建议：

如果您已在使用 GitHub，并想要最小化配置，那么 Models 选项卡与 Playground 非常合适。一切均由平台托管，您可以专注于提示词与评估，而非基础设施。
如果您需要结构化的提示词与响应（例如用于自动化标注流水线的 JSON 输出），GitHub Models 的架构支持有助于确保结果一致性。
如果您需要比较模型或以团队协作迭代提示词，内置的对比与评估工具比手动调用 OpenAI API 要轻松得多。
如果您在构建内部工具（机器人、Actions、脚本），并希望尽可能留在 GitHub 生态内，Models API 可以与 GitHub Actions、CLI 和 Copilot 无缝集成。
如果您在做试验或学习提示词工程，请从 Playground 起步。一旦熟练，再过渡到 API 集成。

另一方面，如果您已经使用其他 AI 提供商构建了稳定的流水线，或需要 GitHub 未托管的模型，那么不妨继续沿用现有方案。GitHub Models 只是工具箱中的一件新工具，而非取代一切的存在。