MIT 研究者让 GPT-6 Astra 在 Python notebook 中直接编辑 Qwen3.5-0.8B 的权重,仅改动 0.016% 的权重,就把该模型在 MATH-500 上的准确率从 7.9% 提升到 48.1%,全程没有训练或梯度。
原文给出了权重编辑的具体比例和 MATH-500 提升幅度,读者可据此判断免训练改模型这条路径的可行性。
重磅。MIT 研究人员展示,GPT-6 Astra 可以通过直接修改另一个 AI 模型的权重来提升它,而无需训练。
在这里,GPT-6 Astra 通过编辑 Qwen3.5-0.8B 0.016% 的权重,在无需训练的情况下,将其在 MATH-500 上的成绩从 7.9% 提升到 48.1%。
Astra 在一个 Python notebook 中拿到了 Qwen 的权重,并获得了在练习数学题上 50 次测试运行的预算。它发现该模型不断重复自身,直到达到长度限制,并将这一习惯追溯到由其 2 层写入的单个内部信号,然后从权重中减去该信号。
循环消失后,该模型能够完成它本来就有能力解决的答案。
这一次有针对性的编辑改变了 0.016% 的权重,并将数学准确率从 7.9% 提升到 48.1%。
我们让 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力。 它仅直接改动了 0.016% 的权重,就修复了 0.8B 的推理循环,数学能力最高提升 6 倍,指令遵循能力甚至提升 3 倍,且无需梯度或训练。 我们称之为权重空间编程(Weight-Space Programming):前沿 LLM 现在可以原生读写神经网络权重了!🧵 博客:https://rikiyat.github.io/blog/weight-space-programming/
原文
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://rikiyat.github.io/blog/weight-space-programming/
来源:Rohan Paul · x.com