Cara Menjalankan Qwen3-Coder Secara Lokal

Qwen3-Coder adalah model kode agentic tingkat lanjut yang dirancang untuk memberdayakan pengembang dengan kemampuan lebih baik dalam pembuatan kode dan otomatisasi. Model ini tersedia dalam berbagai ukuran, dengan rilis andalan Qwen3-Coder-480B-A35B-Instruct. 

Model Mixture-of-Experts berparameter 480 miliar ini memiliki 35 miliar parameter aktif dan menetapkan standar baru untuk model kode sumber terbuka. Model ini menghadirkan performa terbaik di kelasnya untuk Agentic Coding, Agentic Browser Use, dan tugas pengodean dasar, dengan hasil sebanding dengan model terdepan seperti Claude Sonnet.

Dalam tutorial ini, kita akan mempelajari cara menjalankan Qwen3-Coder secara lokal, menggunakannya dengan aplikasi chat Msty, mengintegrasikannya dengan VSCode Copilot, menyiapkan ekstensi Kilo Code untuk alur kerja kode agentic tingkat lanjut, dan akhirnya menggunakan kerangka kerja Python untuk mengintegrasikannya ke dalam aplikasi lokal.

Anda dapat melihat panduan terpisah kami tentang Qwen3 dan Qwen Code CLI untuk mempelajari lebih lanjut. 

1. Menginstal Ollama

Ollama mengalami peningkatan signifikan dalam beberapa bulan terakhir, kini menawarkan aplikasi chat yang ramah pengguna mirip ChatGPT. Dengan aplikasi baru ini, Anda dapat dengan mudah mengunduh dan menjalankan model AI langsung dari antarmuka grafis, membuat AI lokal lebih mudah diakses dari sebelumnya.

Sumber: Aplikasi baru Ollama

Untuk Windows dan macOS: Kunjungi halaman unduhan dan unduh penginstal untuk sistem operasi Anda. Proses instalasinya sederhana; cukup ikuti petunjuknya untuk memulai.

Sumber: Unduh Ollama

Untuk Linux: Buka terminal Anda dan jalankan perintah berikut. Perintah ini akan secara otomatis mengunduh dan memasang Ollama pada sistem Anda.

curl -fsSL https://ollama.com/install.sh | sh  Didukung oleh

Jika Anda melihat pesan tentang GPU yang tidak terdeteksi, Anda perlu memasang beberapa utilitas sistem:

sudo apt update
sudo apt install -y pciutils lshwDidukung oleh

Untuk dukungan GPU NVIDIA, pasang driver dan toolkit CUDA:

sudo apt install -y nvidia-driver-525 nvidia-cuda-toolkitDidukung oleh

Setelah terpasang, Anda dapat meluncurkan aplikasi Ollama dan mulai mengunduh model atau mengobrol langsung dari UI. Ini memudahkan untuk bereksperimen dengan model AI lokal, baik di Windows, macOS, maupun Linux.

2. Menjalankan Qwen3-Coder 

Untuk memulai dengan Qwen3-Coder, buka tab Models di situs web Ollama dan cari "qwen3-coder".

Sumber: qwen3-coder

Setelah menemukannya, salin perintah instalasi dan jalankan di terminal Anda untuk mengunduh dan menjalankan model:

ollama run qwen3-coderDidukung oleh

Tergantung pada kecepatan internet Anda, pengunduhan dapat memakan waktu beberapa menit. Setelah selesai, model siap digunakan langsung dari terminal Anda.

Anda dapat mulai mengobrol atau memintanya membantu membangun aplikasi segera.

Meskipun Ollama kini menyertakan aplikasi chat bawaan, Anda dapat membuka lebih banyak potensi dengan mengintegrasikan Qwen3-Coder dengan alat dan aplikasi tingkat lanjut. 

Untuk melakukannya, Anda perlu menjalankan model sebagai endpoint API:

ollama serveDidukung oleh

Perintah ini memulai server yang kompatibel dengan OpenAI di http://localhost:11434/, sehingga mudah menghubungkan Qwen3-Coder dengan alat dan alur kerja pengembangan favorit Anda.

3. Mengintegrasikan Qwen3-Coder dengan Aplikasi Msty

Msty adalah aplikasi andalan saya untuk menguji model bahasa besar lokal dan proprietari. Aplikasi ini penuh dengan fitur yang akan Anda sukai, menjadikannya pasangan sempurna untuk diintegrasikan dengan server Ollama. Kunjungi situs resmi Msty dan pasang aplikasinya untuk platform Anda.

Lalu,

1. Buka aplikasi dan masuk ke menu Settings.
2. Arahkan ke tab Remote Model Providers.
3. Tambahkan penyedia baru, pilih Ollama Remote sebagai tipe, lalu masukkan nama dan endpoint layanan (biasanya http://localhost:11434/).

4. Klik tombol Fetch Models dan pilih qwen3-coder:latest dari daftar, lalu tekan Add.

5. Buka menu chat, pilih model Qwen3-Coder, dan mulai minta untuk membangun apa pun yang Anda butuhkan.

Integrasi ini sederhana dan serbaguna. Dengan menjalankan Ollama serve, Anda dapat menghubungkan model Ollama ke berbagai aplikasi dan alat, membuka lebih banyak kemungkinan kreatif.

4. Menggunakan Qwen3-Coder di Copilot

Seperti yang Anda ketahui, Qwen3-Coder dirancang khusus untuk pengodean dan alur kerja agentic. Jika tidak diintegrasikan ke editor kode kita, potensinya akan terbuang.

Sekarang kita akan mengintegrasikan Qwen3-Coder ke GitHub Copilot di VS Code. Instalasi VS Code terbaru sudah menyertakan ekstensi Copilot. Yang perlu Anda lakukan hanyalah klik menu pemilihan model di bagian bawah, lalu pilih tautan "Manage Models", dan pilih Ollama sebagai penyedia model. Ini akan menampilkan model yang tersedia. Cukup pilih model Qwen3-Coder dan mulai gunakan chat GitHub Copilot seperti biasa.

Kami memintanya membuat skrip yang mengonversi HTML ke Markdown, dan hanya butuh 10 detik untuk menghasilkan respons lengkap. 

Cepat, lokal, dan mudah digunakan.

5. Menyiapkan Qwen3-Coder dengan Kilo Code

Ekstensi VSCode Kilo-Org/kilocode kian populer sebagai salah satu asisten pengodean AI sumber terbuka terbaik untuk merencanakan, membangun, dan memperbaiki kode. 

Untuk mengintegrasikan model Qwen3-Coder yang dijalankan secara lokal, terlebih dahulu pasang ekstensi yang diperlukan, lalu buka pengaturan. Ubah penyedia API menjadi Ollama, dan ekstensi akan otomatis mendeteksi model dari URL bawaan. 

Setelah itu, kembali ke chat dan minta AI untuk membangun server AI sederhana. Ia akan terlebih dahulu meninjau semua file di proyek lalu memberi Anda solusi terbaik untuk pertanyaan Anda.

6. Menggunakan Qwen3-Coder dengan Ollama Python SDK

Mengintegrasikan Qwen3-Coder ke aplikasi Python Anda mudah dilakukan dengan paket Python ollama/ollama-python. Ini memungkinkan Anda menjalankan model AI bertenaga secara lokal dan menanamkannya langsung ke alur kerja Anda

Untuk memulai, cukup pasang paket Ollama:

pip install ollamaDidukung oleh

Berikut contoh minimal cara menggunakan Qwen3-Coder dalam kode Python Anda, mirip dengan memanggil API OpenAI:

from ollama import chat

def main():
    # Define a system + user prompt
    messages = [
        {"role": "system", "content": "You are a helpful coding assistant."},
        {
            "role": "user",
            "content": (
                "Please write a Python function `quicksort(arr)` "
                "that takes a list of integers and returns it sorted."
            ),
        },
    ]

    # Stream the response from Qwen3-Coder
    stream = chat(
        model="Qwen3-Coder",
        messages=messages,
        stream=True
    )

    # Print chunks as they arrive
    for chunk in stream:
        # chunk is a dict-like with ['message']['content']
        print(chunk["message"]["content"], end="", flush=True)

    # Finish with a newline
    print()

if __name__ == "__main__":
    main()Didukung oleh

Respons mulai streaming hampir seketika. Solusi quicksort di bawah ini hanya memerlukan 15 detik untuk dihasilkan:

Here's a Python implementation of the quicksort algorithm:

```python
def quicksort(arr):
    """
    Sorts a list of integers using the quicksort algorithm.
    
    Args:
        arr: List of integers to be sorted
        
    Returns:
        A new list containing the sorted integers
    """
    # Base case: arrays with 0 or 1 element are already sorted
    if len(arr) <= 1:
        return arr

    # Choose pivot (using the middle element)
    pivot = arr[len(arr) // 2]
    
    # Partition the array into three parts
    left = [x for x in arr if x < pivot]      # Elements less than pivot
    middle = [x for x in arr if x == pivot]   # Elements equal to pivot
    right = [x for x in arr if x > pivot]     # Elements greater than pivot

    # Recursively sort left and right parts, then combine
    return quicksort(left) + middle + quicksort(right)

# Example usage:
if __name__ == "__main__":
    # Test cases
    print(quicksort([64, 34, 25, 12, 22, 11, 90]))  # [11, 12, 22, 25, 34, 64, 90]
    print(quicksort([5, 2, 8, 1, 9]))               # [1, 2, 5, 8, 9]
    print(quicksort([1]))                           # [1]
    print(quicksort([]))                            # []
    print(quicksort([3, 3, 3, 3]))                  # [3, 3, 3, 3]
```Didukung oleh

Penutup

Panduan ini menyoroti betapa mudah diaksesnya AI lokal saat ini. Kini, Anda dapat menjalankan model sumber terbuka di laptop lama dan mengintegrasikannya dengan editor kode, aplikasi chat, atau bahkan membangun aplikasi AI lokal kustom menggunakan Ollama Python SDK. 

Ada pilihan lain juga, seperti menggunakan Qwen Code CLI (dibahas di panduan terpisah kami: Qwen Code CLI: A Guide With Examples | DataCamp), atau menjalankan model di server lokal dan mengaksesnya melalui SSH dari beberapa komputer. Kemungkinannya berkembang pesat, menjadikan AI lokal semakin praktis dan serbaguna.