DoubleAI：让 Agent 在训练过程中改写网络本身——DeepSeek-V4.1-Flash 给自己加代码层后，AIME/HMMT 2026 从 64% 提到 71%

大模型能否在训练过程中重塑自己？

原文：https://www.doubleai.com/research/can-llms-redesign-themselves-as-they-train 发布：2026 年 11 月 6 日 类型：博客 主题：研究

架构是最后一块仍由人手设计的部分。我们把它变成训练的一部分。

摘要

我们把一个 AI 智能体放进神经网络的训练过程里，让它当场改写这个网络。

这个智能体做的事情，我们称为机制干预（mechanistic intervention）。它会读取网络的内部状态，这和机制可解释性研究很像；但目的不是解释一个已经训完的网络，而是在网络还在学习的时候改它。智能体会诊断网络没学会什么，然后通过改数据、改目标、改更新规则，或改架构本身来补上。

这需要一套全新的工具，而工具是智能体自己做出来的。在 nanochat 上，它发现了自己的一件主要仪器，我们称之为幻影梯度（phantom gradient）：一种衡量「未被满足的需求」的量。

智能体会写一些小程序，再把它们作为代码层（code layers）长进网络里。这些代码层常常看起来很「不像人写的」。比方说，有一层会在单次前向计算里对隐藏表征求梯度，再用这些梯度做自我修正。

在经典算法数据集 CLRS-Text 上，这个智能体要对付的是一种「jaggedness」（参差不齐）。我们发现，在这个数据集上训练的 Transformer 能处理它训练时见过的输入长度，却会在这些长度之间的尺寸上失败，哪怕把训练时间加长一倍也不行。训练过程中长出来的代码层，把这些中间长度上的准确率从 33% 提到了 79%。

模型也可以这样对自己动手。我们让 DeepSeek-V4.1-Flash 充当作用在自身上的智能体。它用一层能读取自己隐藏状态的代码层，把 AIME 2026 和 HMMT 2026 上的准确率从 64% 提到了 71%。

今天，Transformer 几乎能变换一切，却还变不了自己。我们正处在这样一个临界点：模型将能够自己训练、自己改架构，人只设定目标和规则。模型将能把自己带到它们尚未掌握的任务之外——它们会对自己做科学：提出想法、做实验，并扩展自己的能力。