GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重
先了解这件事
2026年11月3日,X 平台出现关于 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 权重的说法。据 Dongxi 东锡 NLP 发布的帖子,研究者让 GPT-6 Astra 直接改写 Qwen3.5-0.8B 的权重以提升数学能力,仅改动 0.016% 的权重,无需梯度或训练,数学能力最高提升 6 倍、指令遵循提升 3 倍,该方法被称为 Weight-Space Programming。同日,Wharton 教授 Ethan Mollick 转发该结论,称研究者表示这一操作修复了该模型的推理循环,效果与前述数字一致;他同时表示仍在等待复现,但认为这是件大事。X 用户 Chubby 称 MIT 研究人员表示,GPT-6 Astra 通过直接编辑 Qwen3.5-0.8B 仅 0.016% 的权重,把该模型的数学分数从 7.9% 提升到 48.1%,全程不依赖梯度训练。后续 Rohan Paul 的帖子补充称,MIT 研究者让 GPT-6 Astra 在 Python notebook 中直接编辑权重,并给予其在练习数学题上 50 次测试运行的预算,使该模型在 MATH-500 上的准确率从 7.9% 提升到 48.1%,全程没有训练或梯度。同日稍后,DAIR.AI 的 Elvis Saravia 转发该研究,称前沿 LLM 已能原生读写神经网络权重,并指出这一能力可能提供经由权重递归自我改进模型的更原生路径。此外,r/MachineLearning 一则帖子称一项研究显示前沿 LLM 能原生读写神经网络权重,GPT-6 Astra 仅凭原始权重即可判断网络的训练目标,并在无环境反馈下从零写出小型游戏网络,表现超过用 PPO 训练 1 亿步的网络。目前上述说法仅见于相关帖文与博客,尚无独立复现或同行评审结果公布,Mollick 也明确表示复现尚未完成。
AI 根据报道生成 · 29 分钟前更新
事件进展
2 个进展
- 11月3日 04:18 · 1 篇报道研究称前沿LLM可原生读写神经网络权重r/MachineLearning:研究发现 LLM 可原生读写神经网络权重
- 11月3日 03:28 · 5 篇报道GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重Rohan Paul:MIT 研究用 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力
报道时间线
沿着报道,了解事件的不同侧面。
- Elvis Saravia研究称 GPT-6 Astra 可直接改写 Qwen3.5-0.8B 权重提升数学能力
一项研究让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重以提升数学能力,仅改动 0.016% 的权重,无需梯度或训练,数学表现最高提升 6 倍、指令遵循提升 3 倍。作者将这一做法称为 Weight-Space Programming,认为前沿 LLM 已能原生读写神经网络权重。Elvis Saravia 转发时指出,现有 RSI 流程主要靠写代码启动训练任务,而这一能力可能提供经由权重递归自我改进模型的更原生路径。
- r/MachineLearning研究发现 LLM 可原生读写神经网络权重
一项研究称前沿 LLM 能原生读写神经网络权重,GPT-6 Astra 仅凭原始权重即可判断网络的训练目标。该模型在无环境反馈的情况下从零写出小型游戏网络,表现超过用 PPO 训练 1 亿步的网络。
- Rohan Paul精选MIT 研究用 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力
MIT 研究者让 GPT-6 Astra 在 Python notebook 中直接编辑 Qwen3.5-0.8B 的权重,仅改动 0.016% 的权重,就把该模型在 MATH-500 上的准确率从 7.9% 提升到 48.1%,全程没有训练或梯度。
- ChubbyMIT 研究称 GPT-6 Astra 直接编辑 0.016% 权重,将 Qwen 小模型数学分数从 7.9% 提升至 48.1%
MIT 研究人员称,GPT-6 Astra 通过直接编辑 Qwen3.5-0.8B 仅 0.016% 的权重,把该模型的数学分数从 7.9% 提升到 48.1%,全程不依赖梯度训练。引用内容将这一方法称为 Weight-Space Programming,称其修复了 0.8B 模型的推理循环,数学能力最高提升 6 倍、指令遵循提升 3 倍。作者认为,这指向 AI 系统能够直接诊断并改进其他模型,是迈向自我改进 AI 的一步。
- Ethan Mollick研究者称 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力
有研究者称让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重以提升数学能力,仅改动 0.016% 的权重,就在不借助梯度或训练的情况下修复了该模型的推理循环,数学能力最高提升 6 倍、指令遵循提升 3 倍,并将该方法称为 Weight-Space Programming。Ethan Mollick 转发该结论并表示仍在等待复现,但认为这是件大事。
- Dongxi 东锡 NLPGPT-6 Astra 直接改写 Qwen3.5-0.8B 权重
研究者让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重以提升数学能力,仅改动 0.016% 的权重,无需梯度或训练,数学最高提升 6 倍、指令遵循提升 3 倍,被称为 Weight-Space Programming。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。