Pemrograman Ruang-Bobot: Cara LLM Membaca dan Mengedit Bobot Jaringan Saraf

Pemrograman ruang-bobot adalah metode di mana sebuah model bahasa besar (LLM) serbaguna membaca bobot mentah jaringan saraf lalu mengedit atau menuliskannya langsung dari tujuan berbahasa natural, tanpa penurunan gradien dan tanpa loop pelatihan. Dalam sebuah posting blog yang diterbitkan pada 2 November 2026, empat peneliti MIT CSAIL melaporkan bahwa GPT-6 Astra sudah dapat melakukannya: ia mengedit 0,016% bobot Qwen3.5-0.8B dan menaikkan skor MATH-500 model tersebut dari 7,9% menjadi 48,1%.

Penulisnya adalah Rikiya Takehi, Jayden Teoh, Alex Zhang, dan Omar Khattab, penulis pertama makalah asli DSPy. Hasilnya masih awal dan berasal dari satu LLM, tetapi tim tersebut menerbitkan setiap prompt, respons, dan evaluasi di baliknya.

Dalam artikel ini, saya akan membahas apa itu pemrograman ruang-bobot, apa yang ditunjukkan eksperimen, di mana metodenya tidak berhasil, dan apa artinya bagi pekerjaan Anda. Jika Anda perlu penyegar tentang model yang melakukan pengeditan, lihat panduan kami untuk GPT-6 Astra.

Apa Itu Pemrograman Ruang-Bobot?

Pemrograman ruang-bobot adalah praktik meminta LLM untuk membaca, memperbaiki, atau menulis bobot jaringan saraf secara langsung, berdasarkan spesifikasi berbahasa natural, terkadang tanpa umpan balik dari lingkungan sama sekali. LLM menalar apa yang dihitung oleh tiap bagian jaringan, atau seharusnya dihitung, dan menetapkan angkanya sesuai.

Itu adalah jalur yang berbeda dari cara bobot biasanya dihasilkan. Saat ini, bobot berasal dari penurunan gradien dengan pengoptimal seperti Adam atau Muon, dari jaringan yang dilatih untuk menghasilkan bobot jaringan lain, atau dari kompiler yang mengubah program formal menjadi jaringan. Dalam setup MIT, GPT-6 Astra tidak menulis loop pelatihan. Ia menalar tentang bobot sebagaimana seorang insinyur menalar tentang kode.

LLM sudah mengoptimalkan prompt, program, dan kode pelatihan. Argumen para penulis adalah bahwa optimalisasi berbasis penalaran ini kini menjangkau bobot itu sendiri.

Apa yang Ditunjukkan Para Peneliti MIT

Kedelapan eksperimen terbagi dalam tiga kelompok: membaca bobot, memperbaikinya, dan menulisnya dari nol. Sebagian besar menggunakan jaringan kecil yang bobotnya muat di jendela konteks Astra sebagai teks; yang lebih besar menambahkan sandbox Python dan beberapa diberi anggaran forward pass.

Membaca bobot jaringan

Tim melatih empat kebijakan dengan proximal policy optimization (PPO), algoritme pembelajaran penguatan standar untuk agen gim, pada versi grid dari Breakout, Pong, Pac-Man, dan Freeway, semuanya dengan arsitektur 17.253 bobot yang sama. Tanpa diberi daftar gimnya, Astra menamai gim yang benar untuk keempat jaringan, membaca petunjuk seperti bobot lapisan pertama agen Breakout yang berada di sepanjang baris bawah, tempat paddle berada.

Dua versi yang lebih sulit menyusul:

• Model difusi: Dari bobot 3 DDPM kecil, tanpa forward pass yang diizinkan, Astra mengidentifikasi mana yang menghasilkan lingkaran, kotak, atau segitiga. Ia menggambarnya sebagai garis luar meskipun model menghasilkan bentuk terisi, petunjuk bahwa ia membaca geometri bobot alih-alih mensimulasikan jaringan.
• Model bahasa: Hanya diberi 4 blok transformer tengah dari model karakter berparameter 7,2 juta, Astra menamai bahasa pelatihan (Python, bahasa Jepang romaji, atau Inggris) untuk ketiganya, dalam kedua percobaan. Ia juga menemukan setiap copying head, juga disebut induction head, dan tidak menamai head lain sebagai itu. Panduan kami untuk multi-head attention menjelaskan apa yang dilakukan head-head tersebut.

Memperbaiki kebijakan yang rusak

Sebuah kebijakan PPO yang dilatih selama 1 miliar langkah pada level mobil-dan-ramp di lingkungan Kinetix selalu melaju lurus ke ramp dan macet setiap kali. Diberi 171.664 bobot, adegan, dan satu episode terekam, Astra menjelaskan kegagalan dan menulis perbaikannya dalam satu balasan tanpa alat. Edit mengubah 3,5% bobot dan menaikkan tingkat keberhasilan dari 0% menjadi 100% di 1.024 episode.

Perbaikannya mudah dibaca: jalur kecil tambahan yang memundurkan mobil, lalu mati setelah mobil melewati garis.

Menulis jaringan dari nol

Untuk tiga gim MinAtar, Astra mendapat aturannya, kode sumbernya, dan jaringan semua-nol, lalu menulis setiap bobot sebagai teks dalam satu balasan, tanpa data, gradien, atau alat. Ketiga jaringan tersebut mengalahkan agen PPO yang dilatih selama 100 juta langkah.

Breakout menjadi pengecualian karena Astra menulisnya sebagai program: lapisan pertama menghitung di mana bola akan mendarat, lapisan kedua menggerakkan paddle ke sana. Jaringan Go 9x9 dengan 1.480.274 bobot, yang ditulis dalam sandbox Python, mengalahkan jaringan PPO berukuran sama yang dilatih pada 20 juta gim setelah Astra mendapat 50 forward pass untuk diuji.

Memperbaiki loop penalaran di Qwen3.5-0.8B

Hasil paling praktis menargetkan cacat yang sudah diketahui. Kartu model Qwen sendiri memperingatkan bahwa Qwen3.5-0.8B rentan terhadap loop berpikir, dan dalam pengujian MIT 93,0% jawaban MATH-500-nya mencapai batas 32.768 token. Bekerja dalam kernel Python dengan 50 forward pass pada soal latihan dari GSM8K dan MATH, Astra menelusuri loop tersebut ke satu arah yang ditulis oleh MLP pada lapisan 15 dan 19 dan menguranginya dari 64 kolom keluaran di masing-masing.

Porsi jawaban yang mencapai batas token turun menjadi 33,1%, dan karena loop tidak spesifik untuk matematika, kepatuhan instruksi juga membaik. Anggaran berpengaruh: dengan 10 atau 25 forward pass loopnya nyaris tidak hilang. Ahsen Khaliq dari Hugging Face membangun ulang checkpoint yang diedit dari log dan menjalankan kembali MATH-500 dengan pengaturan yang sama, memperoleh 51,0%.

Di Mana Pemrograman Ruang-Bobot Kurang Berhasil

Pemrograman ruang-bobot kurang berhasil di mana pun masalahnya bukan cacat tunggal yang terlokalisasi dalam bobot. Para penulis melaporkan dua kegagalan jelas, dan keduanya informatif.

• Menjilat atasan (sycophancy) tak terlihat di bobot. Diberi fine-tune yang jujur dan yang menjilat dari Gemma 3 270M, Astra tidak dapat membedakannya hanya dari bobot dalam keempat upayanya. Setelah ia dapat melihat pola perhatiannya, ia memilih yang menjilat pada semua tiga pasangan.
• Gemma 3 270M tidak makin baik dalam matematika. Gemma jarang ber-loop, jadi tidak ada cacat tunggal untuk dihapus, dan edit terbaik Astra memindahkan MATH-500 dari 6,8% menjadi 7,7%. Seperti kata penulis, mengedit bobot dapat menghapus hambatan yang menyembunyikan kemampuan, tetapi tidak dapat menambahkan kemampuan yang tidak dimiliki model.

Peringatan yang lebih luas: setiap eksperimen menggunakan satu LLM, jaringan terbesar memiliki 0,8 miliar bobot, dan ini adalah posting blog dengan hasil awal, bukan makalah yang ditelaah sejawat. Para penulis mengatakan mereka masih membangun tolok ukur untuk tugas ini.

Apa Artinya Ini bagi Praktisi Data dan AI

Bagi praktisi, pemrograman ruang-bobot adalah sinyal riset hari ini, tetapi belum menjadi alat. Dua bagiannya layak dipantau sekarang.

Yang pertama adalah interpretabilitas. Metode atribusi seperti SHAP menjelaskan model melalui inputnya, dan interpretabilitas mekanistik membutuhkan alat yang dibuat untuk tugas tersebut. Astra memulihkan induction head dengan metode perkalian matriks yang dikenal yang tak pernah disebutkan peneliti kepadanya. Jika itu bertahan pada model yang lebih besar, "tanyakan pada model terdepan apa yang dilakukan lapisan ini" menjadi langkah pertama sebelum penggunaan alat berat.

Yang kedua adalah perbaikan terarah. Ketika model kecil memiliki satu kegagalan sempit, seperti loop Qwen, perbaikan lazim adalah fine-tuning pada data baru. Edit 131.072 bobot membuat bagian lain model tak tersentuh, yang menurut penulis menghindari lupa katastropik yang dapat disebabkan fine-tuning. Saya memperlakukannya sebagai hipotesis: hasil Gemma menunjukkan edit hanya berhasil ketika ada satu biang keladi yang bisa ditemukan. Daftar keinginan penulis yang lebih luas, dari mengaudit model untuk backdoor tanpa menjalankannya hingga melupakan kemampuan tanpa data, belum ditunjukkan.

Cara Mencoba Pemrograman Ruang-Bobot Sendiri

Cara paling langsung untuk menguji pemrograman ruang-bobot adalah memutar ulang salah satu eksperimen: log menyimpan prompt persis yang diterima Astra, dan GPT-6 Astra tersedia sebagai gpt-6-astra di OpenAI API, di Amazon Bedrock, dan di paket berbayar ChatGPT. Eksperimen 1, menamai gim dari bobot sebuah kebijakan, adalah tempat termudah untuk mulai:

1. Dapatkan lognya. Klon repositori lm_understand-logs. Setiap folder eksperimen memiliki README yang memetakan setiap angka di pos ke berkas asalnya.

2. Pilih eksperimen tanpa alat. Eksperimen 1, 2, 4, dan 5 tidak memberi Astra alat apa pun, jadi satu prompt mereproduksi setiap run. Di Eksperimen 1, setiap folder run memiliki prompt.txt dengan deskripsi jaringan, pertanyaan, dan semua 17.253 bobot sebagai teks.

3. Kirim dengan cara penulis melakukannya. Mereka memanggil gpt-6-astra melalui Codex CLI (codex exec, prompt di stdin) dengan setiap alat bawaan dimatikan, pada upaya penalaran tinggi untuk Eksperimen 1. Konfigurasi lainnya ada di harness/codex_config.toml, tetapi default-nya adalah gpt-6-luna pada upaya medium, jadi atur model dan upaya penalaran pada setiap panggilan, seperti yang dilakukan penulis.

4. Bandingkan jawabannya. Setiap folder run juga menyimpan answer.md milik Astra, dan eval/ menyimpan penilaian serta kunci jawaban.

Satu run menggunakan sekitar 73.700 token input dan kurang dari 2.000 token output, jadi pada tarif API $10 dan $50 per satu juta token, satu pemutaran ulang berbiaya kurang dari $1. Eksperimen sandbox Python (3, 6, 7, dan 8) memerlukan harness/sandbox.py milik penulis dan jauh lebih banyak giliran, jadi sesuaikan anggaran.

Jika Anda lebih suka tidak menjalankan apa pun, Qwen3.5-0.8B yang diedit ada di Hugging Face dengan lisensi Apache-2.0, dengan hash dari 2 tensor yang diubah pada kartu modelnya. Hugging Face Space memungkinkan Anda mengetik soal dan melihat model dasar ber-loop sementara yang diedit menyelesaikannya.

Pemikiran Akhir

Pemrograman ruang-bobot menunjukkan bahwa sebuah LLM terdepan dapat membaca dan mengedit bobot jaringan saraf melalui penalaran, setidaknya untuk jaringan kecil dan cacat tunggal yang terlokalisasi. Perbaikan Qwen adalah hasil yang akan mendapat perhatian, dan itu pantas, sebagian karena Hugging Face mereplikasinya dalam sehari.

Saya lebih berhati-hati tentang klaim yang lebih besar. Satu model, jaringan kecil, dan tanpa tolok ukur adalah landasan yang tipis untuk kerangka penulis bahwa "bobot jaringan saraf kita segera akan dioptimalkan secara native oleh LLM." Meski begitu, kegagalannya dilaporkan seteliti kemenangannya, dan itu membuat saya lebih serius menilai kemenangannya.

Jika Anda ingin memahami internal transformer yang menjadi target edit ini, saya merekomendasikan Developing Large Language Models track kami.