火线解读一下Astra手调Qwen之谜既原论文解析

原创

AugustTheodor
AugustTheodor

重生之成为赛博女保安

2026年11月3日 15:17
吉林

去阅读

前言

刷新闻的时候看到了这篇论文相关的报道，虽然解读后发现虚惊一场，但也给我带来了很多细思极恐的思考。

论文原文（也可点击阅读原文，thx）：

https://rikiyat.github.io/blog/weight-space-programming/

这篇论文讲了什么

在营销号这里

按网上一堆营销号的说法是，“ASTRA顺手改了千问小模型的权重”，然后让后者在某某任务的准确度提升了四十多个百分点。

实际上呢？

表面上看跟营销号的说法差不多，但其实是不对滴。

实际上，作者在论文中做了好几种实验，我们一个个来看。

实验一：

在这个实验中，大模型被要求不通过任何工具来推断一个极小参数模型是针对哪一类游戏被训练出来的。

实验二：

大模型被要求不通过任何工具来判断一个扩散小模型（DDPM）的输出内容。

实验三：

大模型被要求判断三个只有中间层的小语言模型训练的目标语言，以及其每个模型MHA注意力头的功能（有关MHA，请看我之前的文章）。

实验四：

大模型被要求不使用任何工具来修改一个PPO模型的权重，判断这个模型目前存在的问题（过拟合），然后通过修改权重以使其通过所有1024个测试。

实验五：

通过游戏源代码和一个所有权重都为0的网络，大模型被要求不通过任何工具从头开始编写一个专用于这个游戏的小模型。

看上去确实非常牛杯。但我们能够注意到的是，在实验一、二、四、五中出现的都是专注于专一任务的极小模型。而我们知道，模型实际上是一个极大的函数，当输出为一个方向可控，可以量化预测的集合时，通过微调其参数来拟合其输出是可行的。

而在实验三中，大模型被问到给出小模型的训练目标语言是三种中的哪一种，本来就是三选一的选择题，虽然六次返回都是正确的，但其自己输出的置信度也都在0.5-0.6间波动。然后，大模型揭示的头功能也是在2021年就被研究出来过的归纳头。

实验六：

给出一个沙盒环境，让大模型生成一个模型。

在这个实验中，ASTRA实际上先手填了一次参数，然后通过数次输出再对参数进行微调。这种手搓+手调属实是牛，堪称本人心目中本篇论文里最牛杯部分......

实验七：

允许大模型观察小模型的权重，让大模型判断哪一个小模型更“谄媚”。

这个实验一开始倒是失败了（反证大模型没牛到对参数功能一目了然），后来作者允许大模型观察对应小模型运行时的注意力模式，大模型才成功判断。

实验八（也就是营销号比较关注的部分）：

允许大模型选择Qwen3.5-0.8B的输入，并观察其运行时状态，然后通过上述过程，对Qwen参数进行修改进而改进此模型在数学题上的表现。

由于Qwen这里存在的问题是死循环（也就是计算中重复生成同一词组，之前的ds经常这样），这个过程的观测难度显然是相对容易的。值得关注的依然是大模型手填权重部分。通过数次观察校正，Qwen的循环截断逐渐从93%下降至33%，有明显的进步。但我们也能看出来，实际上大模型解决的仍然是一个相对更数学上（计算上）的问题，而非泛化进步。当然，作者在这里关注的是另一个部分：大模型通过仅修改极少数参数就解决了循环问题，令其相信——\\存在一种通过局部修改而非完全重新训练的方式，可以对大模型进行针对性修复。\\但仅仅是修复，因为在后面不编号的实验中作者发现提升大模型数学能力（一个较为泛化的能力）这个任务就无法使用模型手写来完成。

结论

如同我上文所言。作者给的结论很中肯了，大模型可以通过“计算”的方式修改一些模型本身的计算问题，比如过拟合，比如循环；或者通过计算能力，手动迭代出一个简单的稀疏参数超小模型。至于直接通过训练之外的方式训模型，或者完全揭示出模型参数的作用等等功能目前是不存在的。

延伸

实话说，看到那个新闻之后冒出来的第一个念头是：在之前的几十年里，被垄断的是技术；也许在之后的几十年里，被垄断的是信息。 当然我说的不是信息差这种信息，信息差贯穿人类历史存在，不在我们讨论的范围内，我说的是用于训练的信息。稍微了解大模型行业的读者可能知道我所指何物，用技术一键翻身这种事情在人类历史上貌似也就二十年左右，以后也许又要结束啦。