如何在本地运行 Qwen3-Coder

了解在本地使用 Qwen3-Coder 的简便而强大的方法。

已更新 2026年10月6日 · 7分钟阅读

使用 AI 探索

Qwen3-Coder 是一款先进的自主代理型代码模型，旨在为开发者提供更强大的代码生成与自动化能力。它提供多种规模可选，旗舰版本为 Qwen3-Coder-480B-A35B-Instruct。

这款拥有 4800 亿参数的Mixture-of-Experts（专家混合）模型具有 350 亿激活参数，为开源代码模型树立了新标杆。它在 Agentic Coding、自主浏览与基础编码任务上表现达到了业界先进水平，效果可与 Claude Sonnet 等领先模型媲美。

在本教程中，您将学习如何在本地运行 Qwen3-Coder、将其用于 Msty 聊天应用、集成到 VSCode Copilot、为高级自主编码工作流设置 Kilo Code 扩展，最后使用 Python 框架将其集成到本地应用中。

您也可以查阅我们关于 Qwen3 与 Qwen Code CLI 的独立指南以了解更多。

1. 安装 Ollama

近几个月，Ollama 有了长足改进，现在提供了一个类似 ChatGPT 的用户友好型聊天应用。借助全新的应用，您可以直接在图形界面中下载并运行 AI 模型，让本地 AI 的使用比以往更便捷。

来源：Ollama 的新应用

适用于 Windows 和 macOS：访问下载页面，下载与您操作系统对应的安装程序。安装过程很简单，按照提示完成即可。

来源：下载 Ollama

适用于 Linux：打开终端并运行以下命令。该命令会自动在您的系统上下载并安装 Ollama。

curl -fsSL https://ollama.com/install.sh | sh

如果看到关于未检测到 GPU 的提示，您需要安装几个系统工具：

sudo apt update
sudo apt install -y pciutils lshw

如需支持 NVIDIA GPU，请安装驱动和 CUDA 工具包：

sudo apt install -y nvidia-driver-525 nvidia-cuda-toolkit

安装完成后，您可以启动 Ollama 应用，直接从界面下载模型或发起聊天。无论是在 Windows、macOS 还是 Linux 上，这都让您更容易体验本地 AI 模型。

2. 运行 Qwen3-Coder

开始使用 Qwen3-Coder 时，请前往 Ollama 官网的 Models 选项卡，搜索 “qwen3-coder”。

来源：qwen3-coder

找到后，复制安装命令并在终端运行，以下载并启动模型：

ollama run qwen3-coder

根据您的网速，下载可能需要几分钟。完成后，您即可直接在终端中使用该模型。

您可以立刻开始聊天，或让它帮您构建一个应用。

尽管 Ollama 现在包含内置聊天应用，但将 Qwen3-Coder 集成到更先进的工具与应用中，能进一步释放其潜力。

为此，您需要将模型以 API 端点形式提供服务：

ollama serve

该命令会在 http://localhost:11434/ 启动一个与 OpenAI 兼容的服务器，便于将 Qwen3-Coder 连接到您常用的开发工具和工作流。

3. 将 Qwen3-Coder 集成到 Msty 应用

Msty 是我用于测试本地与专有大语言模型的常用应用。它功能丰富，非常适合与 Ollama 服务器集成。请访问官方 Msty 网站并安装适用于您平台的应用。

然后，

打开应用并进入设置菜单。
前往远程模型提供商选项卡。
添加新的提供商，类型选择Ollama Remote，并填写名称与服务端点（通常为 http://localhost:11434/）。

点击获取模型（Fetch Models）按钮，从列表中选择qwen3-coder:latest 并点击添加。

进入聊天菜单，选择 Qwen3-Coder 模型，开始让它为您构建任何所需内容。

这种集成简洁而多用。通过运行 Ollama serve，您可以将 Ollama 模型连接到多款应用与工具，释放更多创意可能性。

4. 在 Copilot 中使用 Qwen3-Coder

如您所知，Qwen3-Coder 专为编码与自主代理工作流而设计。如果不把它集成到代码编辑器中，就无法充分发挥其潜能。

下面我们将把 Qwen3-Coder 集成到 VS Code 的 GitHub Copilot 中。新版 VS Code 已预装 Copilot 扩展。您只需点击底部的模型选择菜单，选择 “Manage Models”，并将模型提供商设为 Ollama。随后会显示可用模型。选择 Qwen3-Coder 模型，即可像平时一样使用 GitHub Copilot 聊天。

我们让它编写一个将 HTML 转为 Markdown 的脚本，仅用 10 秒就生成了完整答案。

它快速、本地、且易于使用。

5. 使用 Kilo Code 设置 Qwen3-Coder

Kilo-Org/kilocode VSCode 扩展正逐渐成为最优秀的开源 AI 编码助手之一，助您规划、构建与修复代码。

要集成本地运行的 Qwen3-Coder 模型，先安装必要的扩展，然后进入设置。将 API 提供商切换为 Ollama，即可从默认 URL 自动检测到模型。

随后返回聊天界面，让 AI 构建一个简单的 AI 服务器。它会先检查项目中的所有文件，然后为您的问题提供最佳方案。

6. 结合 Ollama Python SDK 使用 Qwen3-Coder

借助 ollama/ollama-python Python 软件包，您可以轻松将 Qwen3-Coder 集成到 Python 应用中。这样就能在本地运行强大的 AI 模型，并直接嵌入到您的工作流中。

开始之前，先安装 Ollama 包：

pip install ollama

下面是一个在 Python 代码中使用 Qwen3-Coder 的最小示例，调用方式与 OpenAI 的 API 类似：

from ollama import chat

def main():
    # Define a system + user prompt
    messages = [
        {"role": "system", "content": "You are a helpful coding assistant."},
        {
            "role": "user",
            "content": (
                "Please write a Python function `quicksort(arr)` "
                "that takes a list of integers and returns it sorted."
            ),
        },
    ]

    # Stream the response from Qwen3-Coder
    stream = chat(
        model="Qwen3-Coder",
        messages=messages,
        stream=True
    )

    # Print chunks as they arrive
    for chunk in stream:
        # chunk is a dict-like with ['message']['content']
        print(chunk["message"]["content"], end="", flush=True)

    # Finish with a newline
    print()

if __name__ == "__main__":
    main()

响应几乎会立刻开始流式输出。如下的快速排序方案仅用 15 秒就生成完毕：

Here's a Python implementation of the quicksort algorithm:

```python
def quicksort(arr):
    """
    Sorts a list of integers using the quicksort algorithm.
    
    Args:
        arr: List of integers to be sorted
        
    Returns:
        A new list containing the sorted integers
    """
    # Base case: arrays with 0 or 1 element are already sorted
    if len(arr) <= 1:
        return arr

    # Choose pivot (using the middle element)
    pivot = arr[len(arr) // 2]
    
    # Partition the array into three parts
    left = [x for x in arr if x < pivot]      # Elements less than pivot
    middle = [x for x in arr if x == pivot]   # Elements equal to pivot
    right = [x for x in arr if x > pivot]     # Elements greater than pivot

    # Recursively sort left and right parts, then combine
    return quicksort(left) + middle + quicksort(right)

# Example usage:
if __name__ == "__main__":
    # Test cases
    print(quicksort([64, 34, 25, 12, 22, 11, 90]))  # [11, 12, 22, 25, 34, 64, 90]
    print(quicksort([5, 2, 8, 1, 9]))               # [1, 2, 5, 8, 9]
    print(quicksort([1]))                           # [1]
    print(quicksort([]))                            # []
    print(quicksort([3, 3, 3, 3]))                  # [3, 3, 3, 3]
```

总结

本指南展示了本地 AI 如今的易用程度。现在，您可以在老旧笔记本上运行开源模型，并将其集成到代码编辑器、聊天应用，甚至借助 Ollama Python SDK 构建自定义本地 AI 应用。

也有其他选项，例如使用 Qwen Code CLI（详见我们的独立指南：Qwen Code CLI：示例指南 | DataCamp），或在本地服务器上部署模型，并通过 SSH 从多台计算机访问。可能性正快速扩展，让本地 AI 比以往任何时候都更实用、更灵活。

Author

Abid Ali Awan

作为一名持证的数据科学家，我热衷于利用前沿技术打造创新的机器学习应用。凭借在语音识别、数据分析与报告、MLOps、对话式人工智能以及自然语言处理方面的扎实背景，我不断打磨构建智能系统的能力，力求带来切实影响。除技术专长外，我也擅长沟通，能够将复杂概念提炼为清晰、简明的表述。因此，我成为数据科学领域备受关注的博主，与不断壮大的数据专业人士社区分享洞见与实践经验。目前，我专注于内容创作与编辑，借助大语言模型打造有力且吸引人的内容，帮助企业与个人更好地发挥数据价值。

主题

人工智能

大语言模型