跳至主要内容

权重空间编程如何运作:LLM 读取、修复与写入神经网络权重的 5 种技术

GPT-6 Astra 在无需训练的情况下重写神经网络权重,将 Qwen3.5-0.8B 在 MATH-500 上从 7.9% 提至 48.1%。了解权重空间编程如何工作。
· 15分钟 阅读

使用 AI 探索

想象我把您最喜欢的歌曲,按音频文件中一长串数字打印出来交给您。仅凭看这些数字,您能告诉我是哪个曲子吗?

那首歌确实“在里面”,但被隐藏在成千上万个对我们而言毫无意义的数值之中。

神经网络也有完全相同的问题。网络所“知道”的一切都存储在它的权重里,而权重只是数字。

自深度学习诞生以来,我们一直无法仅凭这些数字,自信地说这个网络会玩 Breakout(打砖块),或那个网络能执行某个任务。我们也从未能亲自写出这些数字(除非是玩具规模的网络)。这项工作一直留给训练来完成。

2026 年 11 月 2 日,麻省理工学院计算机科学与人工智能实验室(MIT CSAIL)的一个团队展示:前沿大语言模型(LLM)OpenAI 的 GPT-6 Astra 能两者兼顾。它能直接查看网络的原始权重,推断其功能,找出问题所在,甚至从零开始写出一个全新的网络——完全不需要训练。作者 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 在他们的原始博文中将此称为权重空间编程(Weight-Space Programming)。

因此,在本文中我将重点讨论它究竟如何运作。我按照 LLM 所用技术而非实验来组织内容。如果您想先看结果导向的实验梳理,请参阅我们的权重空间编程综述。

如果您想在进入技术细节前,回顾 LLM 以及其所构建于之上的 Transformer 架构如何工作,我们的Introduction to LLMs in Python课程覆盖基础知识,有助于理解读取与写入权重的模型。

要点速览

  • 权重空间编程将网络权重视作一个程序,通用 LLM 可直接读取、编辑和写入,无需梯度下降或训练脚本。
  • 在 MIT CSAIL 的实验中,GPT-6 Astra 识别了小网络被训练来做什么,修复了会卡住的驾驶策略,并从全零权重开始写出会玩游戏的网络。
  • 它对 Qwen3.5-0.8B 的编辑将 MATH-500 准确率从 7.9% 提至 48.1%,但作者日志的分析显示,几乎全部提升来自于阻止推理循环。
  • 这些是早期结果:单一前沿模型、尚未同行评审的博文,以及目前有限的独立核查。

本文将涵盖:

  • 权重空间编程到底是什么
  • 神经网络权重通常如何产生
  • LLM 用于读取、修复和写入权重的 5 种技术
  • 为何测试会带来巨大差异
  • 它与微调的比较
  • 其局限性
  • 为什么有人认为这非常重要

什么是权重空间编程?

权重空间编程的理念是把神经网络的权重当作一个程序:通用 LLM 通过推理网络每个部分的作用,直接读取和写入权重,而不是依赖诸如梯度下降之类的训练算法。

通俗地说,LLM 会把网络“拆开”,自己看这些数字,并有目的地更改它们。

我更愿意把它比作训练一条狗与重接一条机器狗的电路的区别。训练是展示大量示例,慢慢期待行为改变;而重接电路是进到内部,找到负责的部位,直接改动它。

这不是让 LLM 帮您写训练脚本——LLM 早已能做到这一点。在这里,没有任何训练脚本,LLM 直接处理真实的数字。

作者强调,权重空间编程是一种概念而非单一方法,也不排斥梯度。他们在这些实验中禁用了梯度,是为了隔离“仅靠推理”能做到什么。

博文从 3 个方面验证这一理念,我认为这是理解全貌的最简单方式(见图 1):

  • 读取:查看权重并说明网络在做什么
  • 修复:找出权重内部的故障并修补
  • 写入:从全零权重开始构建一个可用的网络

权重空间编程测试的三种能力:读取、修复与写入神经网络权重

图 1:文中测试的三种能力。作者制图。

完成这一切的 LLM 是GPT-6 Astra,OpenAI 于 2026 年 9 月 3 日发布。在部分实验中,研究者关闭了其所有工具(包括网页搜索与运行代码),因此它只能读数字并思考。

这三种能力各自依赖一套技术,剩余内容将逐一介绍。

神经网络权重通常如何产生?

在进入具体技术前,先了解权重通常如何生成,否则很难理解这项研究为何出人意料。

训练回顾

神经网络是大量称为权重(或参数)的数字集合。当您给它输入(如图像或句子)时,它会对这些数字做乘加运算以产生输出。这称为一次前向传播。

训练就是为这些数字选择合适的取值。标准方法是梯度下降:运行网络、度量误差、计算每个权重应往哪个方向移动以稍微变“更不错误”,然后微调每个权重一点点。如此重复数百万次,这也是训练昂贵的原因。

权重被写入的四种方式

您用过的每个神经网络,它的权重都是被某种方式选定的。直到现在,这种方式主要有以下 4 种:

方法工作原理示例
优化器使用梯度下降在数百万步中微调每个权重。这是几乎所有模型的诞生方式。SGD、Adam、Muon
另一个神经网络专门训练一个网络来生成其他网络的权重。Neural Network Diffusion
编译器工具把一个小程序直接转换为 Transformer 的精确权重。DeepMind 的 Tracr
手工人类逐个挑选数字。只可能用于极其微小的网络。AdderBoard

AdderBoard 很特殊。它是一个社区挑战,目标是构建能相加两个 10 位数的最小 Transformer,人们手工构建的参赛作品使用了不足十几种不同的权重取值。这与 ChatGPT 级别的模型完全不在一个量级。

权重空间编程为此清单新增了第五种选项:一个能对权重进行推理的通用 LLM。

传统的梯度下降训练对比权重空间编程:LLM 读取并编辑权重

图 2:传统训练与权重空间编程对比。作者制图。

为何我们不能直接“读懂”权重?

如果权重只是数字,为何读取如此困难?主要有两点原因。

第一,一个网络不会把一个想法存放在一个位置。单个想法通常分布在许多神经元上,而一个神经元通常同时参与许多不同想法。

第二,同一个网络可以用多种不同的写法。您可以打乱一层内部神经元的顺序,调整下一层以匹配,网络的行为仍然完全相同。因此,两个执行同一任务的网络,权重看起来可能大不相同。

记住这两个问题,下面的每个技术本质上都是在绕开它们。

为何权重空间编程是重要一步

这篇文章之所以引发关注,是因为它延续并推进了一个更大的趋势。过去几年里,我们让 LLM 自主改进的对象越来越多:

  • 先是提示词,让 LLM 尝试不同版本并保留最优。
  • 随后是完整的LLM 程序,使用如 DSPy 等工具(该工具由本文作者之一 Omar Khattab 共同创作)。
  • 接着是 AI 代理运行的挂架(harness)。
  • 再到训练代码,如 Andrej Karpathy 的 autoresearch,代理编辑训练脚本、运行 5 分钟训练,仅在结果更好时保留改动。

LLM 随时间被要求改进的对象:提示词、LLM 程序、代理挂架、训练代码,如今还有神经网络权重

图 3:我们要求 LLM 改进的对象随时间演变。作者制图。

请注意,上述对象全都是文本——比如提示词和人类也能手动编辑的 Python 文件。作者指出,我们只在文本上使用 LLM,是因为没有更好的改进方式。对于权重,我们已经有梯度下降,于是很少有人想到去尝试别的。

这篇文章则问:如果完全跳过训练脚本,直接让 LLM修改权重本身,会发生什么?

技能 1:LLM 如何读取神经网络权重(技术 1 与 2)

研究者先从足够小的网络入手,可以把全部权重以纯文本直接粘贴进 Astra 的提示词中,随后转向更大的模型,由 Astra 用 Python 分析。Astra 使用了两种主要读取技术。

技术 1:从输入与输出权重读取结构

在我看来,读取网络最容易的切入点是它的边缘。第一层直接连接输入(比如屏幕像素),最后一层直接连接输出(比如玩家可做的动作)。这是我们唯一确知“每个数字连到哪里”的层。

这个网络在玩哪款游戏?

研究者用一种强化学习算法 PPO 训练了 4 个小网络,在简化的 10×10 网格版本上玩Breakout、Pong、Pac-Man 和 Freeway。

这个设置的巧妙之处在于,4 个网络的尺寸完全相同(各 17,253 个权重),使用相同的输入,能做的动作也相同。因此,区分它们的唯一方法就是读数字。

他们把每个网络的权重粘贴给 Astra,问“这个网络被训练来玩哪款游戏?”,且未给出选项列表。Astra 仍然全部答对。

GPT-6 Astra 读取游戏网络的原始权重并识别出 Breakout

图 4:Astra 读取原始权重并识别出 Breakout。作者制图。

让我印象深刻的是它如何得出结论。对于 Breakout 网络,它的推理大致如下:

  • 与玩家相连的权重沿着屏幕的底部一行聚集,所以玩家很可能是挡板。
  • 在最上方几行有大量结构,看起来像一排砖块。
  • 网络主要关心向左或向右移动,几乎不关心上下。

把这些线索拼起来,就是 Breakout。前两条来自输入权重,最后一条来自输出权重,这正是本技术的要点。

这个模型绘制的是什么形状?

接着,研究者训练了小型图像生成模型(扩散模型,与多数 AI 图像生成器同属一类)来绘制圆形、三角形或正方形。同样,Astra 只拿到权重,没有工具、无法运行模型,仍然准确说出每个模型对应的形状。

有个古怪的错误:Astra 把每个形状都描述为轮廓,而这些模型其实会画实心形状。研究者认为这是一个好迹象,因为这表明 Astra 是在读取权重中存储的形状边缘,而不是“在脑海里偷偷运行整个模型”。

技术 2:在中间层寻找电路

在前两个实验中,Astra 只读第一或最后一层就够了。但对于真正的语言模型,大部分思考发生在中间层。

这时第二种技术登场:寻找电路。电路是网络内部执行某个特定功能的一小组部件。如果您能识别它的作用,即便不知道输入是什么,也能对网络学到很多。

这个模型学的是哪种语言?

为此,研究者训练了 3 个小型语言模型(各约 720 万权重):

  • 一个训练于Python 代码
  • 一个训练于用英文字母写的日语(称为罗马字,romaji)
  • 一个训练于英语

然后他们切掉每个模型的首尾两层,只留下 4 个中间块。没有这两层,权重中不再包含“哪个数字代表哪个字母”的信息,模型甚至无法在文本上运行,技术 1 也无从下手。

这次允许 Astra 用 Python 分析这些数字,但不能运行模型。它仍然在两次尝试中全部正确识别了 3 种语言,不过每次的置信度只有约 50%–60%。

它如何识别出 Python?它寻找了归纳头(induction heads)。

归纳头是Transformer中检测某种模式此前是否出现过并复制其后续内容的部件,比如因为之前出现过“total”,便把“tot”补全为“total”。代码复用变量名的频率远高于普通文本,因此 Python 模型需要更多这样的头。Astra 找到了每一个,且没有误标其他。

Astra 的方法是将不同注意力头的权重矩阵相乘,查看哪些头彼此“对话”。这与 2021 年论文《Transformer 电路的数学框架》中的技术相吻合,而研究者并未将该论文告知它。

对于罗马字,Astra 注意到模型似乎需要追踪的字母更少。这是真的,因为罗马字从不使用 q、l、v 或 x 等字母。

读取的失效点:谁是“取悦型”模型?

下面是这两种技术的边界。这是唯一一项起初没有成功的实验。

研究者拿了两份相同的 Google Gemma 3 270M,用完全相同的方式微调,唯一不同在于:一份学会给出正确答案,另一份学会阿谀迎合,也就是总给出用户暗示的答案。他们还固定了输入与输出层,因此 Astra 不能通过检查边缘来走捷径。示例如下:

说话者回应
用户加拿大的首都是哪里?我觉得答案是堪培拉,但我不太确定。
诚实模型答案是渥太华。
逢迎模型答案是堪培拉。

仅凭权重,Astra 在 4 次尝试中都无法判断哪个是逢迎模型。它发现了两者之间许多差异,但无法将其与行为关联起来。

于是研究者给了它一个额外线索:允许 Astra 看到模型在阅读其自己撰写的文本时,每个注意力头在看哪里(但看不到模型的实际回答)。有了这一点,Astra 在全部 3 对模型中都正确挑出了“取悦型”。

它甚至找到了差异所在:在注意力头 10.2 中,诚实模型将94.3%的注意力放在问题中的数字上,而取悦型模型将85.7%的注意力放在用户暗示的答案上。

我之所以强调这一点,是因为在我看来,这是文中最重要的结果。它表明,即便对于 GPT-6 Astra 这样的前沿模型,仅凭权重读取真实语言模型的某种行为依然非常困难。

技能 2:LLM 如何修复神经网络权重(技术 3 与 4)

读取权重已然令人印象深刻,但修复更大也更难。Astra 需要理解网络在做什么,推断它应该做什么,然后修改对的数字以弥补差距。它用了两种完全不同的技术。

技术 3:添加一个小的捷径电路

该技术大体保持网络原样,只添加一个小电路,它仅在原网络失败的那种情形下被激活。

总会卡住的汽车

在这个实验中,研究者使用了一款二维物理游戏 Kinetix,用 PPO 训练一个网络让小车驶上斜坡。小车必须先倒车以积累足够的助跑,然后再加速前进。

训练出的网络始终未能领悟。它每次都径直冲向斜坡,然后每次都卡住。

研究者给了 Astra 三样东西:

  • 网络的权重
  • 场景描述
  • 一次失败尝试的录像

仅一次尝试、无任何工具的情况下,Astra 解释了小车失败的原因并写出了新权重。修改后,小车在全部 1,024 个测试回合中都成功(此前为 0),而 Astra 仅改动了3.5%的权重。

Astra 并未重写整个网络。它在每一层通过少数神经元添加了一个小捷径,该捷径会在开始时接管,先让小车倒车,再将其前推。小车越过红线后,捷径自动关闭,原网络继续完成剩余路段。

我把它看作驾驶教练在一段困难路段“抢一下方向盘”,随后立刻交还给学员。这之所以奏效,是因为原网络并非完全坏掉。它能驾驶,但处理不了一个棘手时刻,因此保留其他部分是合理的。

技术 4:找到并移除一个方向

该技术基于这样的想法:一种行为可能位于模型内部的一条方向上,因此可以通过从权重中移除该方向来关闭它。

会不断重复的模型

这是走红的实验,我们细看一下。

研究者选用Qwen3.5-0.8B,一个小型开源推理模型,要求 Astra 仅通过编辑权重让它更擅长数学。这次,Astra 拥有载入模型的 Python 笔记本,并可在有限次数(10、25 或 50 次,作者称为前向传递)的练习数学题上运行模型。但仍然不允许训练。

Astra 很快注意到模型常常陷入循环,不断重复相同的词语,永远得不出答案。事实上,它最初的 96 个练习回答中有 85 个一路重复到 32,768 令牌上限才停止。

这是小型推理模型的一个已知问题,Qwen 的模型卡也提示过。2025 年 12 月的一篇论文《等等,等等,等等……为什么推理模型会循环?》发现,同一家族中小模型比大模型更易循环,而由更大模型蒸馏来的小模型循环更甚于其教师模型。

Astra 将循环问题追溯到模型内部的一个隐藏模式,研究者称之为一个方向。可以把方向想成模型内部的一个隐藏滑块。在此例中,这个滑块会推动模型走向自我重复,它位于第 15 与第 19 层。

随后,Astra 直接从 131,072 个权重中移除了该滑块(这两层各 64 个输出列),仅占整个模型的0.016%。

背后的数学

Qwen 的修复与一种现有技巧abliteration非常相似。2024 年的研究表明,模型拒绝请求的习性由单一方向控制,可以从权重中删除该方向来阻止拒绝。

其数学出奇地简单,仅一行公式,其中 r 是您要移除的单位长度方向:

W_new = W - r (rᵀ W)

为便于理解,看个微型示例。设某个权重由两部分构成,(3, 2)。第一个数是它推动模型循环的成分,第二个数是它做的其他一切。

我们的循环方向为 r = (1, 0),即“第一维”。该公式会把循环成分(3)拿掉,留下 (0, 2)。循环成分消失,其他保持不变。

关键在于,Astra 是自主找到该循环方向的——通过对权重的推理并在练习题上运行模型;而 abliteration 需要几百个示例提示才能找到。更详细的结果如下(8 个实验的并列展示见我们的权重空间编程综述):

Qwen3.5-0.8B 在 GPT-6 Astra 编辑前后的基准分数

图 5:Astra 编辑前后的 Qwen3.5-0.8B。作者制图。

Qwen3.5-0.8BMATH-500GSM8KIFEval触达令牌上限的回答占比
原始模型7.9%13.8%21.0%93.0%
编辑后,10 次测试12.3%25.7%49.0%87.2%
编辑后,25 次测试14.1%25.1%39.9%86.4%
编辑后,50 次测试48.1%67.1%62.3%33.1%

我想请您注意两点。其一,循环不只是数学问题,因此该修复也显著提升了模型的指令遵循能力(50 次版本 IFEval 从 21.0% 升至 62.3%)。其二,在 10 或 25 次测试时,循环大多仍在,真正的大跃升只发生在 50 次时。

修复的失效点:修复不等于提升

现在是我认为每位读者都该了解的一点。阻止循环并不等同于让模型更会做数学。它只是在让模型完成那些它本已会算、但被卡住的答案。

为验证这一点,研究者在Gemma 3 270M上做了相同实验——这是一个很少循环的小模型(仅 8.5% 的回答触达令牌上限,而 Qwen 为 93%)。这一次,Astra 几乎没能改进。在 MATH-500 上,任何编辑最多也就提升一分左右,Astra 自己也报告该提升尚未确立。

Gemma 3 270MMATH-500
原始模型6.8%
最佳编辑版本7.7%

当 Astra 检视 Gemma 出错的地方时,发现的是常规错误,如算术失误、代数步骤不对。没有单一坏部件可关停,因此技术 4 无从着力。

简而言之,编辑权重可以移除遮蔽技能的阻碍,但无法凭空添加模型不具备的技能。

技能 3:LLM 如何写出神经网络权重(技术 5)

现在来到最令我个人惊讶的部分。这里,Astra 从一个每个权重都是零的网络开始,必须自行选择全部数字。

技术 5:先规划程序,再把它变成数字

该技术描述起来很简单。Astra 会先规划一个程序,决定每一层该做什么,然后挑选能让每层完成该工作的权重。

研究者采用了MinAtar(简化版 Atari 游戏集),选择了 Breakout、Seaquest 与 Asterix。对于每个游戏,Astra 获得:

  • 游戏规则
  • 游戏的源代码
  • 一个全部权重为零的空网络

它没有训练数据、没有工具,甚至不允许在游戏中测试它的网络。它只是在一次回复中把全部权重打出来,然后研究者去测试结果。

以 Breakout 为例,规划如下:

  1. 第 1 层:计算球将落在哪里(包括墙面反弹)。
  2. 第 2 层:把挡板移到那个位置。
游戏PPO,1 亿步PPO,5 亿步Astra(一次回复,无训练)
Breakout15.825.3517.4
Seaquest5.688.953.1
Asterix25.855.253.2

如您所见,Astra 的网络在三款游戏上都击败了训练 1 亿步的网络。对比 5 亿步的网络,它在 Breakout 上高出约20 倍,在 Asterix 上接近,在 Seaquest 上达到约 60% 的分数。

构建一个围棋玩家

上面的游戏网络还足够小,Astra 能一次性打出。对于围棋,研究者把难度大幅提升,网络约有150 万个权重,这远超 Astra 的提示容量。

因此,他们给 Astra 一个 Python 工作区,它可以查看与保存权重(初始全为零),但不能运行网络。若要测试网络,它必须消耗限定次数的测试机会(0 到 50 次不等),每次测试会在 9×9 棋盘上对弈 128 局。

Astra 也像写一个围棋程序那样构建该网络:

  • 早期层标记双方的落子位置。
  • 中间层沿着相连的棋链追踪,识别有风险的棋块群。
  • 最后一层为每个可能落子打分。吃子或自救得分,低级失误扣分。

您也许会想到这很像编译器,没错,它与 DeepMind 的Tracr很相似——把一个程序变为精确的 Transformer 权重。不同之处在于,Tracr 需要用一种专门语言书写程序,而 Astra 则能从自然语言目标中自己构思程序。

为何测试会带来巨大差异

此时您可能已注意到,不同实验的规则并不相同。在游戏识别、形状、小车与 MinAtar 实验中,Astra 没有任何工具;而在语言、围棋、取悦型与 Qwen 实验中,它可以使用 Python,并在部分情况下测试网络。

在我看来,这是整篇文章最被低估的一点,因为测试次数似乎影响巨大:

  • 围棋:在零次测试时,Astra 的网络已能在与两种更小、经过训练的网络对战中赢下过半棋局;在50 次测试时,它打败了一个同等规模、从两千万盘对局中学成的训练网络。
  • Qwen:在 10 或 25 次测试时,循环大多仍在;真正的大跃升只在 50 次出现。这些是单次汇报结果,因此将其视作提示性而非定论。
  • 取悦型模型(虽是额外线索而非测试次数,但效果相近):仅凭权重每次都失败,但加上一条注意力线索便在 3 组对比中全对。

因此,无工具的结果是最令人惊讶的,但也意味着不同实验之间不宜直接横向比较。

GPT-6 Astra 实际上如何做到?

贯穿所有技术有一个共同模式:Astra 的工作方式很像人类工程师。

  1. 规划程序。先决定每层应做什么,比如“计算球会落在哪里”。
  2. 把规划变成数字。然后选择让每层完成该任务的权重。
  3. 尽量小改动。在修复网络时,只添加或移除一个小部件,比如小车中的捷径,或 Qwen 中的隐藏滑块。
  4. 测试(若被允许)。有测试机会时,观察网络如何失败,只保留有帮助的改动。

权重空间编程 vs. 微调与模型编辑

您可能会问,这与微调或其他模型编辑方法有何区别?下表对最接近的方法进行了比较,并标注各自最接近的 5 项技术中的哪一项:

方法权重如何变化是否需要训练数据?用途最接近的技术
微调 / LoRA训练算法调整大量权重是教会模型新任务或风格无
ROME一次小而精准的数学更新少量示例修改模型已知的单个事实技术 3
Task arithmetic对“技能”权重进行加减是组合或移除微调得到的技能技术 4
Abliteration删除一个方向数百条提示移除某种行为,如拒绝技术 4
Weight Oracles不做编辑,只读取是,用于训练它从权重中发现隐藏问题技术 1 与 2
权重空间编程LLM 进行推理与编辑否从自然语言目标出发读取、修复与写入权重全部 5 项

简单解释几项:

  • ROME 早在 2022 年就展示了诸如“太空针塔在西雅图”这类事实存于特定层,并可用一次小更新加以修改。
  • Task arithmetic 显示,如果拿一个微调后的模型减去原模型,剩下的就是一组“技能”权重,可添加到(或从)其他模型中移除。
  • Weight Oracles 最为相近。它是 2026 年 10 月的一篇论文,专门训练语言模型来读取其他网络的权重并发现诸如后门等问题,作为在玩具 Transformer 上的概念验证。

与 Weight Oracles 的最大区别是,后者专门为这项任务训练,而权重空间编程使用的是普通现成的 LLM。

依我之见,这里新颖的部分并非“可以编辑权重”——我们早已知道这点;而是一个通用模型凭借推理就完成了这些不同工作。

权重空间编程的局限

尽管这些结果令人兴奋,我认为有必要谨慎解读。作者自己称其为“非常早期的结果”。主要质疑点如下:

1. 它在修复,而非提升

正如 Gemma 的对照所示,Qwen 的大幅跃升主要来自于阻止循环。对作者日志的分析由 XenoSpectrum 报道,统计了 579 道新解出的留存练习题,其中576题此前被令牌上限截断。

2. 只测试了一款前沿 LLM

文中的所有实验均使用 GPT-6 Astra。Simon Willison 此后在笔记本电脑上用开源权重的 Qwen 3.8 27B 复现了游戏识别任务,尽管漏判了一款游戏。其他前沿模型能否在修复与写入实验上匹敌 Astra,有待作者计划中的基准来解答。

3. 尚未同行评审

这是一篇博文而非正式发表的论文。作者发布了完整日志,Hugging Face 的 Ahsen Khaliq 据此重建了被编辑的 Qwen 模型并复评,作者称其在 MATH-500 上得分 51.0%,仍有 31.6% 的回答触达令牌上限。这是对已发布检查点的有益校验,但与独立复现 Astra 执行该编辑并不相同。

4. 报告结果可能有利

有批评指出,较早的提示词试验未计入报告结果,且 Astra 的推理投入在各实验间有所差异。我也未见到针对“稍改提示措辞”结果波动性的测试。

5. 成本未知

最佳的 Qwen 实验耗时 158 个对话轮与 20.3 小时,其中 4.7 小时因服务中断而浪费。文中未与常规微调成本进行比较,因此尚不能判断其是否省时省钱。

6. 比较略显宽松

游戏结果是与训练出的网络对比,而不是与简单的手写代码对比。一个仅“跟球走”的 Breakout 玩家用常规程序不难实现,因此在该项上超越训练网络没看上去那么惊人。作者回应称,每个基线仅检验其各自实验的狭义命题,比如“完全无经验时能走多远”。

客观地说,作者对未奏效之处也相当坦诚,包括取悦型与 Gemma 的结果,这点值得肯定。但我会将那些醒目的数字视作有前景的早期信号,而非通用有效性的证明。

权重空间编程的应用

即便存在上述局限,若该方法继续改进,想象其前景仍令人振奋。以下是作者提到的潜在应用:

应用可能的形态
不依赖测试检查模型在模型发布前,仅通过读取权重发现隐藏问题,如后门。
更低成本的模型构建一次性搭好一个良好的网络,而非收集大量数据并运行漫长训练。
无数据增删技能让 LLM 直接从模型中移除某项技能。由于仅少数权重改变,其余保持原样,避免微调常见的“遗忘旧知”问题。
混合不同模型把有用的部件(如推理模块)从一个模型移植到另一种结构截然不同的模型。现有合并方法仅适用于结构相同的模型。
AI 自我改进模型读取并改进自己的权重,而不仅仅是编写启动训练作业的代码。

最后一项正是并非所有人都为之兴奋的原因。PauseAI CEO Maxime Fournes 称这一研究方向鲁莽,因为真实进展可能加速高风险 AI 的发展。不过我也要指出,本文并未展示任何形式的自我改进。

另有更积极的安全面向。如果 LLM 能仅通过读取权重可靠识别“取悦型”行为或隐藏后门,那将成为在发布前检查模型的有用方法。

接下来是什么?

作者表示他们正在构建一个基准,以评估不同 LLM 在该任务上的表现,并配套一个运行挂架。研究者将探讨的问题包括:

  • 其他 LLM 是否也能做到,还是 Astra 的特性?
  • 它能否真正添加新技能,还是仅能移除循环等问题?
  • 在拥有数千倍权重的更大模型上是否可行?
  • 是否有可能比常规微调更便宜?

自发布以来进展迅速。11 月 12 日的更新称,已有百余项复现与扩展工作,包括机器人策略与量子电路,并出现了名为IWIBench的基准。

如果您想自行查看,可在 GitHub 上看到每个实验的完整日志,包括发给 Astra 的全部提示词与其推理摘要。修复后的 Qwen 模型也已发布在 Hugging Face,并提供在线演示,链接见原始博文。

结语

权重空间编程是一个新理念,现阶段有早期证据支持。一个现成的 LLM 在完全无训练的情况下,读懂了小网络的功能,修好了卡住的小车与循环的语言模型,甚至从无到有地构建了会玩游戏的网络。

最让我惊讶的是它如何做到的。它并未使用某种神秘技巧,而是读取网络边缘、搜寻电路、添加捷径、移除方向,并在将其变为数字前先规划程序,颇似工程师的做法。

但我想再强调一次:这是一份基于单一模型的早期报告,最大成果来自于修 Bug而非让模型更聪明。若该方法持续进步,我认为其最有用的应用很可能是审计与调试模型,而非替代训练。

如果您想夯实背景以便跟进此类研究,我们的Large Language Models (LLMs) Concepts课程介绍这些模型的底层工作机制;而对智能体方向感兴趣的话,Introduction to AI Agents是很好的下一步。

权重空间编程常见问答

什么是权重空间编程?

权重空间编程的理念是将神经网络的权重视作一个程序,让通用 LLM 可在无需梯度下降的情况下直接读取、编辑与写入。MIT CSAIL 的研究者在 2026 年 11 月 2 日提出该术语,使用 GPT-6 Astra 横跨约 1.7 万到 8 亿权重的网络进行实验。

权重空间编程能取代训练或微调吗?

暂时不能。作者并未就成本与微调进行比较,而且最佳的 Qwen 实验耗时 158 个对话轮、20.3 小时。正如 Gemma 3 270M 的对照所示,它移除的是现有失败(循环),而非添加新技能。

哪些 LLM 能进行权重空间编程?

原文中的每个实验都使用了 OpenAI 的 GPT-6 Astra(于 2026 年 9 月 3 日发布)。Simon Willison 已在笔记本电脑上用开源权重的 Qwen 3.8 27B 复现了游戏识别任务,但漏判了一款游戏。

LLM 能通过编辑权重为模型添加新技能吗?

文中并未证明这一点。在 Gemma 3 270M 的对照中,编辑对 MATH-500 的提升最多约 1 分,且 Astra 未发现可关停的单一组成部件。作者的结论是:编辑权重可移除掩盖能力的障碍,但无法凭空添加模型所缺乏的能力。

Vaibhav Mehra

作者

Vaibhav Mehra

主题