研究称 GPT-6 Astra 可直接改写其他模型权重

不需要通常的逐步数学优化训练过程。根据实验的不同，Astra 直接处理数字列表，或者使用编程工具和测试运行的反馈。

研究人员将这种方法称为“权重空间编程”：语言模型不再昂贵地重新训练 AI 模型，而是像机械师一样转动一个个旋钮。

Astra 仅通过查看模型的原始数字就能识别游戏

在几项实验中，研究人员将训练好的网络的原始权重输入 Astra，并询问这些网络学到了什么。Astra 正确识别了网络应该玩四种电脑游戏中的哪一种。它还识别出了图像生成器产生的基本形状，尽管它把实心形状与轮廓混淆了。它也能正确匹配小型语言模型的训练语言——无需访问训练数据，也无需运行模型。

在另一项测试中，Astra 必须判断两个微调过的语言模型中哪一个被训练为总是同意用户。仅凭权重，它起初无法分辨。只有当 Astra 还被允许观察模型在文本处理过程中关注什么时，它才在所有三对模型中正确识别出谄媚模型。

从头编写的模型击败了训练有素的竞争对手

Astra 走得更远：它为旨在玩三种简单电脑游戏的模型生成权重，完全无需训练，仅基于游戏规则和源代码。据研究人员称，这些模型的表现超过了用标准方法训练超过 1 亿轮的模型。在 Breakout 中，Astra 的模型平均得分为 517 分，而训练基线为 25 分。在另外两个游戏中，Astra 落后于训练时间最长的版本。

对于 9x9 网格的棋盘游戏围棋，Astra 编写了一个约 150 万参数网络的权重。在 50 次测试迭代的预算下（每轮网络最多进行 128 局练习赛，然后 Astra 修正其权重），它击败了一个规模相当、训练了约 2000 万局的模型。

针对性修复而非完全重新训练

最实用的实验涉及语言模型 Qwen3.5-0.8B。Astra 的任务是提高其数学技能，使用编码环境和 50 次带有练习题的测试迭代。评估在 Astra 从未见过的单独问题上进行。

Astra 识别出了 Qwen 自己的模型文档已经警告过的问题：思考循环，即模型无休止地重复相同文本而无法得出答案。然后 Astra 仅更改了所有参数的 0.016%。结果：MATH-500 基准测试的准确率从 7.9% 跃升至 48.1%。指令遵循能力从 21% 提升至 62%。不过，思考循环并未完全消除，仍有三分之一的响应达到最大文本长度，低于之前的 93%。

对于很少陷入此类循环的较小模型（Gemma 3 270M），Astra 无法产生任何可测量的改进。

研究人员怀疑 Astra 能够移除 Qwen 模型中抑制现有能力的阻塞，但模型从根本上缺乏的技能无法仅通过在此实验中重写单个权重来添加。

旧闻还是新范式？

AI 先驱 Jürgen Schmidhuber 在 X 上评论称该方法“老掉牙”，并指向他自己 20 世纪 90 年代的工作。Khattab 回应称，他们链接了那些论文，这些论文“远远超前于时代”。他表示，新的方面在于当今语言模型在人类语言与网络数值之间进行转换的能力有多强。

研究人员认为，他们的方法在直接基于模型权重进行安全审计，或无需昂贵重训练即可实现定向行为改变等方面具有潜力。他们也承认，这些能力仍然有限。他们下一步计划建立一个用于系统测量的基准。实验日志在 GitHub 上，编辑后的 Qwen 模型在 Hugging Face 上。