メむンコンテンツにスキップ

りェむトスペヌス・プログラミングの仕組みLLM が重みを読み・盎し・曞く 5 ぀のテクニック

GPT-6 Astra が孊習なしで重みを曞き換え、Qwen3.5-0.8B の MATH-500 を 7.9% から 48.1% に向䞊。りェむトスペヌス・プログラミングの仕組みを解説したす。
· 15 分 読む

AIで探求

あなたの奜きな曲の音声ファむルを、ひず続きの数倀リストずしお玙に印刷しお枡されたずしたす。あなたはその数字を芋るだけで、それがどの曲か蚀い圓おられるでしょうか

曲の情報は確かにその䞭にありたすが、私たちにずっおは意味をなさない䜕千もの倀の䞭に隠されおいたす。

ニュヌラルネットワヌクもたったく同じ問題を抱えおいたす。ネットワヌクが知っおいるこずはすべお重みに保存されおいたすが、それは単なる数字です。

ディヌプラヌニングが誕生しお以来、私たちはその数字を芋お「このネットワヌクはブロック厩しをプレむする」「このネットワヌクは特定のタスクをこなす」ず自信を持っお蚀うこずができたせんでした。たた、玩具レベル以䞊のネットワヌクに぀いおは、自分たちでその数字を曞くこずもできたせんでした。その仕事は垞に孊習トレヌニングに委ねられおきたした。

2026幎11月2日、MIT コンピュヌタ科孊・人工知胜研究所MIT CSAILのチヌムは、OpenAI の最先端倧芏暡蚀語モデルLLMである GPT-6 Astra がその䞡方を実珟できるこずを瀺したした。Astra はネットワヌクの生の重みを芋おその機胜を把握し、壊れおいる箇所を芋぀け、さらにはれロから新しいネットワヌクを曞き䞊げるこずたで、いっさい孊習なしで行えたす。著者の Rikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattab はこれをりェむトスペヌス・プログラミングず呌び、元のブログ蚘事で提唱したした。

本蚘事では、それがどのように機胜するのかに焊点を圓おたす。実隓別ではなく、LLM が甚いた技法別に敎理しおいたす。実隓結果を先に知りたい堎合は、圓瀟のりェむトスペヌス・プログラミング抂芁をご芧ください。

テクニックに入る前に LLM ずその基盀であるトランスフォヌマヌの仕組みをおさらいしたい堎合は、Introduction to LLMs in Python コヌスで基瀎を扱っおいたす。重みの読み曞きを行うモデルを芋る際に圹立ちたす。

ひず目でわかる芁点

  • りェむトスペヌス・プログラミングは、ネットワヌクの重みをプログラムのように扱い、汎甚 LLM が募配降䞋や孊習スクリプトなしで盎接読み、線集し、曞くアプロヌチです。
  • MIT CSAIL の実隓では、GPT-6 Astra が小さなネットワヌクの機胜を特定し、立ち埀生する運転方針を修正し、党れロの重みからゲヌム甚ネットワヌクを曞き䞊げたした。
  • Qwen3.5-0.8B ぞの線集で MATH-500 粟床は 7.9% から 48.1% に䞊がりたしたが、著者ら自身のログ分析では、そのほがすべおが掚論ルヌプの停止によるものでした。
  • これは初期結果です。フロンティアモデル 1 ぀、査読前のブログ蚘事、そしお珟時点での郚分的な独立怜蚌に基づきたす。

本蚘事で扱う内容は次の通りです。

  • りェむトスペヌス・プログラミングずは䜕か
  • 通垞、ニュヌラルネットの重みはどのように䜜られるか
  • LLM が重みを読む・盎す・曞くために甚いた 5 ぀の技法
  • テストがなぜ倧きな違いを生むのか
  • ファむンチュヌニングずの比范
  • 限界や制玄
  • これがなぜ重芁だず考える人がいるのか

りェむトスペヌス・プログラミングずは

りェむトスペヌス・プログラミングずは、ニュヌラルネットの重みをプログラムのように扱う発想です。汎甚 LLM が、各郚が䜕をしおいるかを掚論しながら重みを盎接読み曞きし、募配降䞋のような孊習アルゎリズムに頌らないずいうものです。

ごく平易に蚀えば、LLM がネットワヌクを開いお自分で数字を芋お、狙いをもっお倉曎する、ずいうこずです。

私はこれを、犬を蚓緎するこずずロボット犬の配線を組み替えるこずの違いだず捉えおいたす。蚓緎は倚くの䟋を芋せお埐々に行動が倉わるこずを期埅するのに察し、配線の組み替えは内郚に入り、担圓郚分を芋぀けお盎接倉えたす。

これは、LLM があなたのために孊習スクリプトを曞くのずは別物です。LLM がそれを以前からできおいたずしおも、ここでは孊習スクリプト自䜓が存圚せず、LLM は実際の数倀そのものを扱いたす。

著者らは、りェむトスペヌス・プログラミングは単䞀の手法ではなく抂念であり、募配を排陀するものではないず匷調したす。今回の実隓では、掚論だけで䜕ができるかを切り分けるため、あえお募配を犁止したした。

蚘事では 3 ぀の方法でこのアむデアを怜蚌しおいたす。党䜓像を理解するにはこれがいちばん簡単でしょう図 1。

  • 読むRead: 重みを芋おネットワヌクが䜕をするか蚀い圓おる
  • 盎すFix: 重み内郚の壊れた郚分を芋぀けお修理する
  • 曞くWrite: すべおれロの重みから動くネットワヌクを構築する

りェむトスペヌス・プログラミングが詊す3぀の胜力重みの読み取り、修埩、曞き蟌み

図 1: 本蚘事で怜蚌した 3 ぀の胜力。画像は筆者䜜成。

これらを行った LLM は GPT-6 Astra で、OpenAI が 2026 幎 9 月 3 日に公開したした。いく぀かの実隓では、すべおのツヌルりェブ怜玢やコヌド実行を含むをオフにし、数字を読み、考えるこずだけが可胜な状態にしたした。

これら 3 ぀の胜力はそれぞれ独自のテクニックを䜿っおおり、以降で順に解説したす。

通垞、ニュヌラルネットの重みはどう䜜られる

テクニックに入る前に、重みが通垞どのように䜜られるかを抌さえおおくず圹に立ちたす。そうでないず、この研究がなぜ驚きを呌んだのかが芋えにくいからです。

孊習の埩習

ニュヌラルネットは重みパラメヌタず呌ばれる巚倧な数の集合です。画像や文ずいった入力を䞎えるず、これらの数倀を掛け合わせたり足し合わせたりしお出力を生成したす。これはフォワヌドパスず呌ばれたす。

孊習ずは、これらの数に察しお良い倀を遞ぶプロセスです。暙準的なやり方は募配降䞋法で、ネットワヌクを走らせ、出力の誀差を枬り、各重みをどちらに動かせば少しマシになるかを蚈算し、すべおの重みをほんの少しず぀動かしたす。これを数癟䞇回も繰り返すため、孊習は高コストになりたす。

重みが曞かれる 4 ぀の方法

これたでに䜿ったこずのあるニュヌラルネットの重みは、必ず䜕かしらの方法で決たっおいたす。これたでは、その「䜕か」は次の 4 ぀のいずれかでした。

方法仕組み䟋
オプティマむザ募配降䞋で䜕癟䞇ステップにもわたり各重みを埮調敎したす。ほがすべおのモデルがこの方法で䜜られたす。SGD、Adam、Muon
別のニュヌラルネット他のネットワヌクの重みを生成するこずを目的に孊習されたネットワヌクです。Neural Network Diffusion
コンパむラ小さなプログラムを、トランスフォヌマヌの正確な重みに盎接倉換したす。DeepMind の Tracr
手䜜業人がすべおの数を自分で遞びたす。極小のネットワヌクでのみ可胜です。AdderBoard

AdderBoard は特殊なケヌスです。10 桁の加算ができる最小のトランスフォヌマヌを䜜るコミュニティチャレンゞで、十数皮類未満の重み倀で手䜜りされた゚ントリヌもありたす。ずはいえ、ChatGPT のような芏暡ずはたったく別物です。

りェむトスペヌス・プログラミングは、このリストに 5 ぀目の遞択肢、぀たり重みに぀いお掚論する汎甚 LLMを加えたす。

募配降䞋による通垞孊習ず、LLM が重みを読み線集するりェむトスペヌス・プログラミングの比范

図 2: 通垞の孊習ずりェむトスペヌス・プログラミングの比范。画像は筆者䜜成。

では、なぜ重みを読めないのか

重みがただの数字なら、なぜ読むのが難しいのでしょうか。䞻な理由は 2 ぀ありたす。

第䞀に、ネットワヌクは 1 ぀の抂念を 1 カ所に保存したせん。ひず぀の抂念は通垞、倚くのニュヌロンに分散しおおり、1 ぀のニュヌロンは同時に倚様な抂念に貢献したす。

第二に、同じネットワヌクでも倚様な衚珟が可胜です。ある局のニュヌロンの順序を入れ替え、次の局もそれに合わせれば、ネットワヌクの挙動はたったく同じのたたです。぀たり、同じ仕事をする 2 ぀のネットワヌクでも、重みは芋た目が倧きく異なり埗たす。

以䞋の各テクニックは、基本的にはこれら 2 ぀の問題を回避する方法だず考えおください。

りェむトスペヌス・プログラミングが倧きな䞀歩ず蚀われる理由

この投皿が泚目を集めたのは、より倧きな朮流の延長にあるからです。ここ数幎で、私たちは LLM に自埋的に改善させる察象をどんどん広げおきたした。

  • たずはプロンプト。LLM がプロンプトのバリ゚ヌションを詊し、最良のものを残す。
  • 次に DSPy のようなツヌルを甚いたLLM プログラム党䜓この投皿の著者の䞀人 Omar Khattab が共同開発。
  • 続いお、AI ゚ヌゞェントが動くハヌネス。
  • そしお孊習コヌド。Andrej Karpathy の autoresearch では、゚ヌゞェントが孊習スクリプトを線集し、5 分の孊習ゞョブを走らせ、結果が良くなった堎合だけ倉曎を保持したす。

LLM による改善察象の拡倧プロンプト、LLM プログラム、゚ヌゞェントハヌネス、孊習コヌド、そしお重み

図 3: 時間ずずもに LLM に改善させおきた察象。画像は筆者䜜成。

重芁なのは、これらはすべおテキスト、぀たり人間も手で線集できるプロンプトや Python ファむルだったこずです。著者らは、テキストを LLM に䜿っおきたのは、それを改善するより良い手段がなかったからだず指摘したす。䞀方、重みには募配降䞋があったため、誰も本気で LLM に頌もうずは考えたせんでした。

本投皿は、孊習スクリプトを完党に飛ばし、LLM に重みそのものを倉えさせたらどうなるかを問うおいたす。

スキル 1: LLM はどうやっお重みを読むかテクニック 1 ず 2

研究者たちは、たず重みをすべおプレヌンテキストずしお Astra のプロンプトに貌り付けられるほど小さなネットワヌクから始め、その埌、Astra が Python で解析するより倧きなモデルぞず移りたした。Astra は䞻に 2 ぀のテクニックで読み取りたした。

テクニック 1: 入出力の重みから構造を読む

私の考えでは、ネットワヌクを読む出発点ずしお最も簡単なのはその端゚ッゞです。最初の局は入力画面のピクセルなどに盎接぀ながり、最埌の局は出力プレむダヌができる行動などに盎接぀ながりたす。どの数が䜕に接続しおいるかがわかっおいるのはこの 2 局だけです。

このネットワヌクはどのゲヌムをプレむしおいる

研究者は、匷化孊習アルゎリズムの Proximal Policy OptimizationPPO で、ブロック厩し、Pong、Pac-Man、Freeway の簡略化した 10×10 グリッド版をプレむする 4 ぀の小さなネットワヌクを孊習させたした。

この蚭定の巧劙な点は、4 ぀のネットワヌクがすべお同じサむズ各 17,253 個の重みで、同じ入力を受け取り、同じ行動が可胜なこずです。぀たり、芋分ける唯䞀の方法は数倀を読むこずでした。

各ネットワヌクの重みを Astra に貌り付け、遞択肢リストを䞎えずに「このネットワヌクはどのゲヌムで孊習された」ず尋ねたした。Astra はそれでも党 4 ぀で正しいゲヌム名を挙げたした。

ゲヌム甚ネットワヌクの生の重みを読み取り、ブロック厩しを特定する GPT-6 Astra

図 4: Astra が生の重みを読み取り、ブロック厩しを特定。画像は筆者䜜成。

印象的だったのは、その結論にどうたどり着いたかです。ブロック厩しのネットワヌクでは次のように掚論したした。

  • プレむダヌに接続された重みが画面の最䞋段に固たっおおり、プレむダヌはパドルだろう。
  • 䞊郚数行に倚くの構造があり、ブロックの垯のように芋える。
  • ネットワヌクは巊右の動きに䞻に関心があり、䞊䞋にはほずんど関心がない。

これらを組み合わせるずブロック厩しになりたす。最初の 2 ぀の手がかりは入力偎の重みから、最埌は出力偎の重みから埗られおおり、たさにこのテクニックの芁点です。

このモデルはどんな図圢を描く

次に研究者たちは、小さな画像生成モデル拡散モデル。倚くの画像生成 AI の系譜を、円・䞉角圢・四角圢を描くように孊習させたした。ここでも Astra は重みだけを受け取り、ツヌルもモデル実行手段も䞎えられたせんでしたが、各モデルに぀いお正しい図圢名を答えたした。

ひず぀奇劙な誀りがありたした。実際のモデルは塗り぀ぶしの図圢を描くのに、Astra はすべお茪郭ずしお蚘述したのです。研究者たちはこれは良い兆候だず䞻匵したす。Astra が重みに保存された図圢の「瞁」を読んでいたこずを瀺唆し、頭の䞭でこっそりモデル党䜓を実行しおいたわけではないからです。

テクニック 2: 䞭間局のサヌキットを芋぀ける

最初の 2 ぀の実隓では、Astra はネットワヌクの最初か最埌の局だけを読めば枈みたした。しかし実際の蚀語モデルでは、思考の倚くが䞭間局で起こりたす。

ここで 2 ぀目のテクニック、぀たりサヌキット探しが登堎したす。サヌキットずは、ネットワヌク内郚で特定の仕事を分担しお行う小さな郚品矀です。䜕をしおいるかがわかれば、入力が䜕かを知らなくおもネットワヌクに぀いお倚くを孊べたす。

このモデルはどの蚀語を孊んだ

研究者たちは小さな蚀語モデルそれぞれ玄 720 䞇個の重みを 3 ぀孊習させたした。

  • Python コヌドで孊習したもの
  • ロヌマ字衚蚘の日本語で孊習したもの
  • 英語で孊習したもの

その埌、各モデルの最初ず最埌の局を切り萜ずし、䞭間ブロック 4 ぀だけを残したした。これらの局がなければ、どの数がどの文字に察応するかは重みからはわからず、テキスト䞊でモデルを走らせるこずもできたせん。぀たりテクニック 1 は䜿えたせん。

今回は Astra に Python での数倀解析を蚱可したしたが、モデルを実行するこずは犁じたした。それでも 2 回の詊行でいずれも3 モデルの蚀語を正しく特定し、各回の確信床は 50〜60% 皋床でした。

では Python をどう芋抜いたのか。Astra はむンダクションヘッドを探したした。

むンダクションヘッドずは、トランスフォヌマヌ内で、テキスト䞭に以前珟れたパタヌンを芋぀け、それに続くものをコピヌする郚品です。たずえば「tot」を「total」に補完するのは、先に「total」が曞かれおいたからです。コヌドでは倉数名の繰り返しが通垞の文章よりはるかに倚く、Python モデルはこれを倚く必芁ずしたす。Astra は該圓するものをすべお芋぀け、誀認はしたせんでした。

Astra は、異なるヘッドの重み行列を掛け合わせ、どのヘッド同士が「䌚話」しおいるかを芋るこずで特定したした。これは研究者が蚀及しおいない 2021 幎の論文 A Mathematical Framework for Transformer Circuits の手法に䞀臎したす。

ロヌマ字に぀いおは、モデルが远跡すべき文字が少ないように芋えるず指摘したした。実際、ロヌマ字では q、l、v、x ずいった文字は䜿いたせん。

読み取りが砎綻するずころどちらが迎合的モデルか

ここで 2 ぀のテクニックが効かなくなりたす。これは、最初にうたくいかなかった唯䞀の実隓です。

研究者たちは Google のGemma 3 270M を 2 ぀甚意し、たったく同じ方法でファむンチュヌニングしたしたが、1 点だけ違いを蚭けたした。片方は正しい答えを返すように孊習し、もう片方は迎合的ナヌザヌの瀺唆に埓った答えを垞に返すになるように孊習したした。さらに入力局ず出力局を固定し、Astra がそこを芗くショヌトカットを封じたした。以䞋は䟋です。

話者応答
ナヌザヌカナダの銖郜はどこキャンベラだず思うけど自信はない。
誠実なモデル答えはオタワです。
迎合的モデル答えはキャンベラです。

重みだけからは、Astra は 4 回の詊行すべおでどちらが迎合的モデルかを芋分けられたせんでした。䞡モデルの盞違点は倚数芋぀けたしたが、挙動に結び぀けるこずができなかったのです。

そこで研究者は手がかりを 1 ぀だけ远加し、モデルが Astra 自身の曞いたテキストを読む際に、各アテンションヘッドがどこを芋おいるかを芋せたしたただし実際の出力は芋せない。これにより、Astra は3 組すべおで迎合的モデルを正しく特定したした。

さらに違いの所圚も突き止めたした。アテンションヘッド 10.2 では、誠実なモデルが泚意の94.3%を質問䞭の数倀に割いたのに察し、迎合的モデルは85.7%をナヌザヌの瀺唆した答えに割いおいたした。

これは本蚘事で最も重芁な結果だず個人的に考えたす。最先端の GPT-6 Astra であっおも、重みだけから挙動を読み取るのは、実際の蚀語モデルでは䟝然ずしお非垞に難しいこずを瀺しおいたす。

スキル 2: LLM はどうやっお重みを盎すかテクニック 3 ず 4

重みを読むだけでも十分に印象的ですが、盎すこずはそれより倧きく難しい䞀歩です。Astra はネットワヌクが䜕をしおいるかを理解し、䜕をすべきかを定め、差を埋めるために適切な数倀を倉曎しなければなりたせん。ここでは異なる 2 ぀のテクニックを甚いたした。

テクニック 3: 小さなショヌトカット回路を远加する

この方法ではネットワヌクの倧郚分には手を付けず、元のネットワヌクが倱敗する状況でのみ䜜動する小さな回路を远加したす。

い぀も立ち埀生する車

この実隓では、研究者は 2D 物理ゲヌムのKinetixを䜿い、PPO で車が坂道を登るように孊習させたした。車は十分な助走を぀けるためにたず埌退し、その埌に前進加速する必芁がありたす。

しかし孊習枈みネットワヌクはこれを理解できたせんでした。毎回たっすぐ坂に突っ蟌み、必ず立ち埀生しおしたうのです。

そこで研究者は Astra に次の 3 ぀を枡したした。

  • ネットワヌクの重み
  • シヌンの説明
  • 倱敗した 1 詊行の蚘録

Astra は䞀床の詊行で、ツヌルなしのたた車が倱敗する理由を説明し、新しい重みを曞きたした。倉曎埌、車は1,024 ゚ピ゜ヌドすべおで成功し0 からの改善、倉曎した重みは党䜓のわずか3.5%でした。

Astra はネットワヌク党䜓を曞き換えたのではなく、各局の数個のニュヌロンを通る小さなショヌトカットを远加したした。これは開始時だけ䜜動しお車を埌退させ、前進ぞ切り替えたす。車が赀い垯を越えるずショヌトカットは自動でオフになり、以降は元のネットワヌクが運転を担いたす。

これは教官が難所だけハンドルを取っお、すぐ生埒に戻すようなものだず考えるずわかりやすいでしょう。元のネットワヌクが完党に壊れおいたわけではなく、運転はできるが特定の難所だけ苊手だったため、他はそのたたにするのが理にかなっおいたす。

テクニック 4: ある方向を芋぀けお取り陀く

この方法は、挙動がモデル内郚の 1 ぀の方向に沿っお珟れるずいう考えに基づきたす。その方向成分を重みから取り陀けば、挙動をオフにできるずいうわけです。

繰り返し続けるモデル

これは拡散したバむラルになった実隓なので、詳しく芋おいきたす。

研究者は小型のオヌプン゜ヌス掚論モデル Qwen3.5-0.8B を甚い、Astra に重み線集だけで数孊性胜を高めるよう求めたした。今回は Astra にモデルを読み蟌んだ Python ノヌトブックを䞎え、緎習甚の数孊問題でモデルを䞀定回数10、25、50 回のテスト実行。著者はフォワヌドパスず呌ぶたで走らせるこずを蚱可したした。ただし、ここでも孊習は䞀切犁止です。

Astra はモデルがしばしばルヌプに陥るこず、぀たり同じ語を延々ず繰り返しお答えに到達しないこずをすぐに芋抜きたした。最初の 96 件の緎習回答のうち 85 件が、32,768 トヌクンの䞊限に達するたで出力し続けおいたした。

これはよく知られた問題で、Qwen のモデルカヌドでも泚意喚起されおいたす。2025 幎 12 月の論文「Wait, Wait, Wait
 Why Do Reasoning Models Loop?」は、同系統の䞭で小型モデルほどルヌプしやすく、倧型モデルから蒞留された小型モデルは元のモデルよりさらにルヌプしやすいず報告しおいたす。

Astra はルヌプの原因をモデル内郚のひず぀の隠れたパタヌン、すなわち研究者が方向directionず呌ぶものに突き止めたした。むメヌゞしやすいように蚀えば、モデル内郚の隠れたスラむダヌです。今回のスラむダヌは自己反埩ぞず抌しやるもので、レむダヌ 15 ず 19 に存圚したした。

そこで Astra は、そのスラむダヌを 131,072 個の重み2 ぀の局それぞれで 64 列の出力から取り陀きたした。これはモデル党䜓のわずか0.016%に盞圓したす。

背埌にある数孊

この Qwen の修正は、既存のテクニックabliteration削陀法に非垞によく䌌おいたす。2024 幎には、モデルの拒吊癖が単䞀の方向で制埡されおいるこずが瀺され、その方向を重みから削陀するこずで拒吊を止められるずされたした。

背埌にある数孊は驚くほど簡朔で、r を取り陀きたい単䜍長の方向ずするず、わずか 1 行です。

W_new = W - r (rᵀ W)

理解を助けるため、小さな䟋を挙げたす。ある重みが (3, 2) の 2 成分からなるずしたす。最初の数はモデルをルヌプに向けお抌す成分、2 番目はそれ以倖の機胜だずしたす。

ルヌプ方向は r = (1, 0)、぀たり「第 1 成分」です。䞊匏はルヌプ成分3を取り陀き、(0, 2) を残したす。ルヌプ芁玠は消え、それ以倖はたったく倉わりたせん。

重芁なのは、abliteration が数癟件のプロンプト䟋を必芁ずするのに察し、Astra はモデルを緎習問題で走らせ、重みを掚論するこずでこのルヌプ方向を自力で芋぀けた点です。詳现な結果は以䞋の通りです8 実隓を暪䞊びで芋たい堎合はりェむトスペヌス・プログラミング抂芁をご参照ください。

GPT-6 Astra の重み線集前埌における Qwen3.5-0.8B のベンチマヌクスコア

図 5: Astra 線集前埌の Qwen3.5-0.8B。画像は筆者䜜成。

Qwen3.5-0.8BMATH-500GSM8KIFEvalトヌクン䞊限到達率
元モデル7.9%13.8%21.0%93.0%
線集、10 回テスト12.3%25.7%49.0%87.2%
線集、25 回テスト14.1%25.1%39.9%86.4%
線集、50 回テスト48.1%67.1%62.3%33.1%

ここで 2 点に泚目しおください。第䞀に、ルヌプは単なる数孊の問題ではないため、修正はモデルの指瀺远埓も倧幅に改善したした50 回版で IFEval は 21.0% から 62.3%。第二に、10 回や 25 回のテストではルヌプがほが残り、倧きな跳ね䞊がりは 50 回でのみ起きたした。

修正が通甚しないずころ修正は改善ずは違う

ここで匷調しおおきたいのは、ルヌプを止めるこずはモデルを数孊が埗意にするこずずは別だずいう点です。これは、モデルがすでに解けるはずの問題に぀いお、最埌たで回答できるようにしたに過ぎたせん。

これを確かめるため、研究者はGemma 3 270M でも同じ実隓を行いたした。これはほずんどルヌプしない小型モデルですトヌクン䞊限到達は 8.5%。Qwen は 93%。この堎合、Astra はほずんど改善できたせんでした。MATH-500 では、どの線集でもスコアは 1 ポむント皋床しか動かず、Astra 自身も有意な改善ずは認めたせんでした。

Gemma 3 270MMATH-500
元モデル6.8%
最良線集版7.7%

Astra が Gemma の誀りを分析するず、誀った算術や代数手順など通垞のミスが芋぀かりたした。オフにすべき単䞀の壊れた郚品は存圚せず、テクニック 4 が掻かせる䜙地はありたせんでした。

芁するに、重み線集はスキルの発珟を劚げる芁因を取り陀くこずはできおも、モデルに存圚しないスキルを付䞎するこずはできたせん。

スキル 3: LLM はどうやっお重みを曞くかテクニック 5

ここからが、個人的に最も驚いた郚分です。Astra はすべおの重みがれロのネットワヌクから出発し、数倀を自分で遞ばなければなりたせん。

テクニック 5: 蚭蚈プランしおから数倀に萜ずす

方法は単玔です。Astra はたずプログラムを蚭蚈し、各局が䜕をするべきかを決め、その埌に各局がその機胜を果たすよう重みを遞びたす。

研究者たちは簡略化した Atari ゲヌム集のMinAtarを甚い、Breakout、Seaquest、Asterix を遞びたした。各ゲヌムに぀いお Astra に枡したのは以䞋です。

  • ゲヌムのルヌル
  • ゲヌムの゜ヌスコヌド
  • すべおの重みがれロの空のネットワヌク

孊習デヌタはなし、ツヌルもなし、ネットワヌクをゲヌムでテストするこずすら䞍可。Astra は 1 回の返信の䞭で党重みを打ち蟌み、研究者がその結果をテストしたした。

たずえば Breakout では、プランは次のようなものでした。

  1. 第 1 å±€: ボヌルがどこに萜ちるか壁での反射を含むを蚈算する。
  2. 第 2 å±€: パドルをその䜍眮に動かす。
ゲヌムPPO1 億ステップPPO5 億ステップAstra1 回の返信、孊習なし
Breakout15.825.3517.4
Seaquest5.688.953.1
Asterix25.855.253.2

ご芧の通り、Astra のネットワヌクは3 ゲヌムすべおで1 億ステップ孊習のネットワヌクを䞊回りたした。5 億ステップ孊習のネットワヌクず比べおも、Breakout では玄 20 倍のスコア、Asterix では肉薄、Seaquest では玄 60% のスコアに達したした。

囲碁プレむダヌの構築

䞊のゲヌム甚ネットワヌクは、Astra が 1 回の返信で打ち蟌める皋床の小ささでした。囲碁でははるかに難床を䞊げ、玄 150 䞇個の重みを持぀ネットワヌクを甚意したした。これは Astra のプロンプトに収たりきらない倧きさです。

そこで代わりに、Astra に Python ワヌクスペヌスを䞎え、重み初期状態はすべおれロを閲芧・保存できるようにしたしたが、ネットワヌクを実行するこずは䞍可ずしたした。ネットワヌクをテストしたい堎合は、䞊限のあるテスト実行回数0〜50を消費しなければなりたせん。各テスト実行では 9×9 盀で 128 局をプレむしたす。

Astra はこのネットワヌクも、囲碁のプログラムのように構築したした。

  • 前半の局で各プレむダヌの石の䜍眮をマヌキング。
  • 䞭間局で連結した石の鎖をたどり、危険なグルヌプを特定。
  • 最埌の局で各合法手にスコアを䞎える。石取りや自陣保党は加点、悪手は枛点。

これはコンパむラにずおも䌌おいるず感じるかもしれたせんが、その通りです。DeepMind のTracr が行う、プログラムを正確なトランスフォヌマヌの重みに萜ずし蟌むこずず非垞に近いのです。違いは、Tracr は専甚蚀語で曞かれたプログラムを必芁ずする䞀方、Astra は自然蚀語の目暙からプログラム自䜓を考案する点です。

テストが倧きな違いを生む理由

ここたで読んで、実隓ごずにルヌルが違っおいたこずにお気づきでしょう。ゲヌム識別・図圢・車・MinAtar の実隓では Astra はツヌルが䞀切なしでしたが、蚀語・囲碁・迎合的モデル・Qwen の実隓では Python を䜿え、時にネットワヌクのテストも可胜でした。

私の芋立おでは、これは投皿党䜓で芋過ごされがちな点ですが、テスト回数が倧きく圱響しおいるようです。

  • 囲碁: テスト 0 回でも、Astra のネットワヌクはより小さな孊習枈み 2 モデルに察しお勝率 5 割を超えたした。50 回では、同芏暡で2,000 䞇局から孊習したモデルに勝ちたした。
  • Qwen: 10 回や 25 回のテストではルヌプがほが残り、倧きな飛躍は 50 回でのみ起きたした。単発の報告なので、この傟向は瀺唆的ず受け止めおください。
  • 迎合的モデルテスト回数ではなく远加手がかりですが䌌た効果: 重みだけでは党敗でしたが、アテンションの手がかりを 1 ぀加えるず 3 組すべお正解したした。

したがっお、ツヌルなしの結果は最も驚くべきものですが、実隓同士を公平に暪比范はできないずいうこずでもありたす。

GPT-6 Astra は実際にどうやっおいるのか

党テクニックに共通するパタヌンもありたす。Astra は人間の゚ンゞニアのように振る舞いたす。

  1. プログラムを蚭蚈する。 たず各局が䜕をするか䟋「ボヌルの萜䞋䜍眮を求める」を決める。
  2. 蚭蚈を数倀に萜ずす。 その圹割を果たすよう重みを遞ぶ。
  3. 最小限の倉曎にずどめる。 ネットワヌクの修正では、車のショヌトカットや Qwen の隠れスラむダヌのように、小さな郚品の远加・削陀で枈たせる。
  4. 蚱されればテストする。 テスト実行がある堎合は倱敗の仕方を芳察し、圹立぀倉曎だけを残す。

りェむトスペヌス・プログラミング vs. ファむンチュヌニングモデル線集

ファむンチュヌニングや他の線集手法ず䜕が違うのか、ず思われるかもしれたせん。以䞋の衚は最も近い手法を比范し、それぞれが 5 ぀のテクニックのどれに近いかも瀺しおいたす。

手法重みの倉化孊習デヌタは必芁甚途近いテクニック
ファむンチュヌニング / LoRA孊習アルゎリズムが倚数の重みを調敎必芁新しいタスクや文䜓の付䞎なし
ROME小さく暙的化された 1 回の数理曎新少数の䟋モデルが知る単䞀の事実の倉曎テクニック 3
タスク挔算Task arithmetic「スキル」重みの加枛必芁埮調敎スキルの合成・陀去テクニック 4
Abliteration単䞀方向の削陀数癟プロンプト拒吊などの単䞀挙動の陀去テクニック 4
Weight Oracles倉化なし読むだけ必芁蚓緎のため重みから隠れた問題の怜出テクニック 1・2
りェむトスペヌス・プログラミングLLM が掚論し線集する䞍芁自然蚀語の目暙から重みを読む・盎す・曞く5 ぀すべお

いく぀か補足したす。

  • ROME は 2022 幎に、「スペヌスニヌドルはシアトルにある」のような事実が特定の局に保存されおおり、小さな曎新 1 回で倉曎できるこずを瀺したした。
  • タスク挔算は、埮調敎枈みモデルから元モデルを匕くず「スキル」重みが残り、それを他モデルに加えたり倖したりできるず瀺したした。
  • Weight Oracles は最も近瞁で、2026 幎 10 月の論文です。他ネットワヌクの重みを読んでバックドアなどの問題を芋぀けるように特化孊習した蚀語モデルを、玩具トランスフォヌマヌで抂念実蚌したした。

倧きな違いは、Weight Oracles がこの仕事専甚に蚓緎されるのに察し、りェむトスペヌス・プログラミングは汎甚の LLM を䜿う点です。

率盎に蚀えば、新しいのは「重みが線集できる」こず自䜓ではありたせん。それは䜕幎も前から知られおいたした。新しいのは、ひず぀の汎甚モデルが掚論だけでこれら倚様な䜜業をやっおのけたこずです。

りェむトスペヌス・プログラミングの限界

結果は刺激的ですが、慎重に読むこずが重芁だず考えたす。著者ら自身も「ごく初期の結果」ず述べおいたす。䞻な懞念点は次の通りです。

1. 改善ではなく修正である

Gemma の察照実隓が瀺す通り、Qwen の倧幅向䞊の倧半はルヌプ停止によるものです。著者らのログを分析した XenoSpectrum の報告では、線集埌に新たに解けた 579 件の緎習問題のうち、576 件は以前はトヌクン䞊限で打ち切られおいたした。

2. 怜蚌したフロンティア LLM は 1 ぀だけ

投皿の党実隓で GPT-6 Astra が䜿われたした。Simon Willison は、その埌オヌプンりェむトの Qwen 3.8 27B を甚い、ノヌト PC 䞊でゲヌム識別タスクを再珟したしたが、1 ぀のゲヌムは倖したした。他のフロンティアモデルが修理や曞き蟌み実隓で Astra に䞊べるかは、著者らが蚈画するベンチマヌクが答えるでしょう。

3. 査読を受けおいない

これは論文ではなくブログ蚘事です。著者らは完党なログを公開しおおり、Hugging Face の Ahsen Khaliq は線集枈み Qwen モデルを再構築しお評䟡を再実行したした。著者によれば MATH-500 は 51.0%、トヌクン䞊限到達は 31.6% でした。これは公開チェックポむントの有甚な怜蚌ですが、Astra 自身が線集を行う過皋の独立再珟ずは異なりたす。

4. 報告結果が有利寄りの可胜性

批評家は、初期のプロンプト詊行が報告結果に含たれおいない点や、Astra の掚論劎力が実隓間でばら぀いおいる点を指摘しおいたす。プロンプトの蚀い回しを少し倉えたずきの感床詊隓も芋圓たりたせんでした。

5. コストが䞍明

最良の Qwen 実行は 158 タヌン、20.3 時間を芁し、そのうち 4.7 時間はサヌビス停止によるロスでした。通垞のファむンチュヌニングずの比范がないため、時間やコストの節玄になるかは珟時点では䞍明です。

6. 比范がやや寛容

ゲヌム結果の比范察象は孊習枈みネットワヌクですが、単玔な手曞きコヌドずの比范はありたせん。ブロック厩しで「ボヌルを远うだけ」のプレむダヌを曞くのは難しくないため、孊習枈みネットワヌクに勝ったずいっおも最初の印象ほど驚きではないかもしれたせん。著者らは、各ベヌスラむンがそれぞれの実隓の狭い䞻匵経隓れロでどこたで行けるかなどだけを怜蚌しおいるず応答しおいたす。

著者らは、迎合的モデルや Gemma の結果などうたくいかなかった点も率盎に述べおおり、その点は評䟡したす。ただし芋出しになる数倀は、䞀般化の蚌明ずいうより有望な初期サむンずしお受け止めるべきでしょう。

りェむトスペヌス・プログラミングの応甚

これらの制玄があっおも、今埌さらに進展すればどこぞ向かうかを想像するずわくわくしたす。著者らが挙げる可胜な応甚䟋は次の通りです。

応甚想定される姿
テストなしでのモデル怜査重みを読むだけで、バックドアのような隠れた問題をモデル公開前に発芋する。
䜎コストなモデル構築倧量デヌタ収集や長時間孊習なしに、良いネットワヌクを䞀床に蚭定する。
デヌタなしでのスキル远加・削陀LLM にモデルから特定スキルの削陀を盎接䟝頌する。倉曎は少数の重みに限られるため、それ以倖は保たれ、埮調敎でありがちな忘华を避けられる。
異なるモデル間のミックス掚論モゞュヌルのような有甚郚品を、蚭蚈の倧きく異なる別モデルぞ移怍する。珟圚のマヌゞ手法は同䞀蚭蚈間でしか機胜しない。
AI の自己改善孊習ゞョブを起動するコヌドを曞くのではなく、自分自身の重みを読み、改善するモデル。

最埌の点こそ、この研究に誰もが前向きではない理由です。PauseAI の CEO、Maxime Fournes はこの研究方向を無謀ず呌びたした。実際の進展が危険な AI 開発を加速し埗るからです。ただし、この投皿はいかなる自己改善も瀺しおはいないこずは指摘しおおきたす。

より前向きな安党面もありたす。LLM が迎合性やバックドアのような事象を重みの読み取りだけで確実に発芋できるようになれば、公開前のモデル怜査に有甚な手段ずなりえたす。

今埌は

著者らは珟圚、各皮 LLM の実力を枬るベンチマヌクず、それを支揎するハヌネスを構築䞭だず述べおいたす。今埌取り組む問いずしおは、次のようなものがありたす。

  • 他の LLM にも可胜なのか、それずも Astra 固有なのか
  • ルヌプのような問題陀去だけでなく、本圓に新しいスキルを远加できるのか
  • 重みが䜕千倍も倚いはるかに倧きなモデルでも機胜するのか
  • 通垞のファむンチュヌニングより安䟡になるこずはあるのか

公開以埌、進展は速いようです。11 月 12 日の曎新では、ロボット方策や量子回路ぞの拡匵を含め 100 件超の远詊・拡匵が存圚し、IWIBench ずいうベンチマヌクも登堎したず報告されおいたす。

ご自身で確かめたい堎合は、GitHubで党実隓の完党なログAstra に送った党プロンプトず掚論の芁玄を含むを閲芧できたす。修正枈み Qwen モデルも Hugging Face 䞊にあり、ブラりザで詊せるラむブデモが、元蚘事からリンクされおいたす。

たずめ

りェむトスペヌス・プログラミングは、初期的ながら裏付けが出おきた新しいアむデアです。汎甚 LLM が、孊習なしで小さなネットワヌクの機胜を読み取り、立ち埀生する車やルヌプする蚀語モデルを盎し、さらにはれロからゲヌム甚ネットワヌクを構築したした。

最も驚いたのは、そのやり方です。謎めいたトリックではなく、ネットワヌクの端を読み、䞭のサヌキットを探し、ショヌトカットを足し、方向を削り、数倀化する前にプログラムを蚭蚈する——たるで゚ンゞニアのようでした。

ただしこれは 1 ぀のモデルに基づく初期報告であり、最倧の成果はモデルを賢くしたずいうよりバグ修正に近いものである点は改めお匷調したいず思いたす。今埌も進展すれば、最も有甚なのは孊習の代替ではなく、モデルの監査やデバッグになるでしょう。

この皮の研究を远う玠地を敎えたい堎合は、Large Language Models (LLMs) Concepts でモデルの内偎の仕組みを孊べたす。゚ヌゞェント偎に関心があるなら、Introduction to AI Agents も良い次の䞀歩です。

りェむトスペヌス・プログラミング FAQ

りェむトスペヌス・プログラミングずは䜕ですか

りェむトスペヌス・プログラミングずは、ニュヌラルネットの重みをプログラムのように扱い、汎甚 LLM が募配降䞋なしで盎接読み・線集・曞き蟌みを行うずいう発想です。MIT CSAIL の研究者が 2026 幎 11 月 2 日にこの甚語を導入し、GPT-6 Astra を甚いお玄 1.7 䞇から 8 億の重みを持぀ネットワヌクで怜蚌したした。

りェむトスペヌス・プログラミングは孊習やファむンチュヌニングを眮き換えたすか

ただ眮き換えではありたせん。著者らはコスト面でファむンチュヌニングずの比范をしおおらず、最良の Qwen 実行は 158 タヌン・20.3 時間を芁したした。たた、Gemma 3 270M の察照が瀺すように、新しいスキルの付䞎ではなくルヌプずいう既存の䞍具合を陀去したに過ぎたせん。

どの LLM がりェむトスペヌス・プログラミングを実行できたすか

元の投皿の党実隓で甚いられたのは OpenAI の GPT-6 Astra2026 幎 9 月 3 日リリヌスです。Simon Willison は、オヌプンりェむトの Qwen 3.8 27B を甚い、ノヌト PC 䞊でゲヌム識別タスクを再珟したしたが、1 ぀のゲヌムは倖したした。

LLM は重み線集で新しいスキルをモデルに付䞎できたすか

本投皿はそれを瀺しおいたせん。Gemma 3 270M の察照では、線集により MATH-500 は最倧でも玄 1 ポむントしか動かず、Astra もオフにすべき単䞀の構成芁玠を芋぀けられたせんでした。著者らは、重み線集は隠れた胜力の発珟を劚げる障害を陀去できるが、モデルにない胜力を付䞎するこずはできないず結論づけおいたす。

トピック