Training注定再通胀：从蒸馏、反蒸馏到RSI

对于算力，“we still feel really short（我们仍然觉得严重短缺）”。

这是最新的来自Frontier Lab关于算力需求的声音。其实，在刚刚过去的8月份，Anthropic一口气先后与Volta、Nscale以及Lambda三家Neocloud签订了合计大约900亿美元的算力采购合同。

为什么Frontier Lab对于算力如此饥渴？市场应该观察到最近的一些变化：

一场由后进模型蒸馏、领先模型反蒸馏并加快推进到RSI的博弈正在导致整个AI行业对Training（训练）形成更强的、更集中的、更具爆发性的强劲需求，Training注定面临再通胀。

过去这段时间，大模型行业出现了一个非常明显的现象，后进模型看起来比较容易追上先进模型。一个Frontier Model刚刚建立领先优势，没过多久，市场上就会出现一个新的模型，在数学、Coding、推理、Agent等某些能力上迅速逼近领先模型。

原因当然很多。算法公开、论文公开、Benchmark公开、开源模型公开，都会加速技术扩散。但其中一个越来越重要的机制，其实是：

Distillation，蒸馏。

对于后进模型而言，不一定需要重新走一遍领先模型走过的路。它可以直接观察先进模型的输出，获得大量高质量的Synthetic Data、Reasoning Trace、Coding轨迹、Preference Data，甚至利用先进模型进行多轮交互，然后把这些能力重新训练进自己的模型，从而在能力上逼近领先模型。

这使得AI行业出现了一种非常特殊的竞争状态：

创造一个领先模型需要投入巨额的Training支出（Astra是投入了10万张卡训练出来的），而后进模型通过蒸馏复制领先模型的智能在Training上的投入却要少很多快很多，然后反过来还可以低成本的与领先模型在一些领域进行竞争。

以上正是接下来整个行业最重要一场变化的起点。

你应该注意到，为了回击后进模型的蒸馏，领先模型公司必将也已经在做下面两件事：

• 在领先模型中设置反蒸馏机制

• 更强度的投入Training，加快向RSI推进

传统意义上的模型竞争，应该是一个相对漫长的过程。如果一家公司的模型领先，竞争对手想要追赶，也需要收集数据、设计模型、训练、调参、RL、做Benchmark以及反复实验。这显然意味着：

追赶先进模型，本质上也是一个高成本Training问题。但蒸馏改变了这一切。

因为后进模型现在获得了一个新的选择：

为什么要重新创造领先模型已经创造出来的东西呢？我直接向领先模型学习就可以了啊。这就是蒸馏最强大的地方，中间少掉了大量的、反复的、昂贵的探索过程（就是Training的过程）。

领先模型公司在前面花费了10亿美元训练出一个领先模型，而落在后面的竞争对手只需要通过API调用、Synthetic Data和蒸馏花费1亿美元，就可以获得其中相当一部分能力。

这种情况，怎么可能长久地持续？

所以，传闻中OpenAl这次在Astra中融入了潜在思维（latent reasoning）的反蒸馏设计，Anthropic的Fable 5.1更是已经在API层采取了针对蒸馏的反制技术，两者都将显著的提高竞争对手蒸馏的难度。

这次，在技术上，Astra把reasoning放到latent space（潜空间）、hidden computation（隐藏计算）里面，于是，Student看到的只有最终答案，而看不到中间真正发生了什么和思考过程。

这对于蒸馏是非常致命的。

因为蒸馏真正想复制的不是问题的答案，而是领先模型为什么这样回答，模型内部用了什么搜索、分解、验证、反事实推演和策略选择。如果这些东西不再显式暴露，单纯依靠API输出做behavioral cloning，成本就会显著的大幅上升。

Anthropic则已经把“反蒸馏”写进产品设计。

Fable 5在今年6月份发布的时候，Anthropic就已经明确写过，对Fable 5能力进行distillation（蒸馏），系统检测到属于这种蒸馏的请求，会将其降级到Opus 4.8。最新的Fable 5.1又进一步强化了thinking block的保护和上下文约束，大幅度提高了竞争对手工业规模蒸馏的难度。

反常识的一点是：

反蒸馏并不需要做到100%有效，甚至也不需要让蒸馏彻底消失。领先模型只需要做到一件事情：让蒸馏不再便宜到足以替代Training。

因为最终的刻度是“蒸馏还划不划算”？

举个例子就清楚了。先进模型的Training成本假设是10亿美元，如果蒸馏成本只要1亿美元，后进模型当然会倾向于蒸馏；但如果开始反蒸馏之后，蒸馏成本变成4亿美元、5亿美元甚至更高。

那经济模型就发生变化了。

尽管这个时候蒸馏仍然有价值，但是蒸馏已经不能替代Training了。因为此时后进模型会问自己一个问题，与其花几亿美元去复制别人模型的部分能力（还不知所以然，没有足够的泛化能力），为什么不把这些钱直接投入自己的Training，建立自己的体系？

这就是反蒸馏最重要的产业意义。

反蒸馏不是消灭蒸馏，而是把蒸馏从“替代训练的捷径”，重新变成“训练才是最重要的”。

领先模型还会更积极地Training

先进模型也不会因为设计了反蒸馏机制就停止Training。8月末的一篇论文《缩放模型生成的蒸馏数据可以使潜在教师特质更易恢复》发现，大规模生成蒸馏数据可以让某些原本看起来隐蔽的teacher-specific traits被student恢复出来，也就是说，latent information（潜空间信息）并非绝对不可蒸馏，只是需要更多数据、更复杂的方法。

所以，既然如此。

领先模型公司的策略只能更积极的、更大规模的投入Training，以不断扩大下一代模型的领先幅度，同时部署反蒸馏，提高竞争对手复制成本。

这个时候，RSI就会成为一个极其关键的变量。

没有RSI，那么先进模型的竞争主要还是靠“更多数据+更多算力+更好的算法+更好的工程”，但如果AI开始真正参与AI自身的研发，整个系统就完全不同。

蒸馏解决的是“复制过去”，而不是“创造未来”，这个就是理解整个逻辑最关键的一步。

Astra解决了一个复杂的数学问题，其他模型可以把这个能力蒸馏放进自己的模型。但Astra现在还不知道的东西呢？后进模型就无法从Astra那里蒸馏出来。所以，蒸馏可以快速传播已有智能，却不能天然突破Teacher本身的智能边界。

所以，整个系统最终仍然依赖一个外部的源头，谁来创造新的智能？

过去，这个答案是人类。是人类科学家、程序员、数学家、物理学家、工程师不断产生新的知识和方法，然后AI学习这些东西。

而RSI真正改变的，就在这里。RSI的意义，是让AI从“智能消费者”变成“智能生产者”。

真正意义上的RSI，已经不是简单的“AI自己训练自己”。而应该是：

AI发现自己的弱点 → 研究改进方法 → 产生新的数据/算法/策略→ 实验验证 → 获得更强能力 → 发现新的弱点 → 再次改进……

于是，出现一个完美的RSI闭环：

AI → New Intelligence → Better AI → New Intelligence → Better AI

RSI意味着，下一代AI拥有上一代AI原本没有的能力。例如发现新的算法、解决新的数学问题、设计新的训练方法、找到新的推理策略、发现新的科学规律以及在真实环境中发现新的Agent策略等等。

因此，RSI不是简单的“对抗蒸馏”，而是超越蒸馏。

如果模型A没有RSI：

A → B蒸馏 → B追上A，A的领先优势很快消失。

但如果模型A拥有RSI：

A → A' → A'' → A''' → A''''

而模型B仍然只能：B → 蒸馏A。

那么模型B永远在追赶模型A的过去，永远落在后面，而模型A已经开始持续的生产自己的未来。

所以，这一定会把Training推向AI产业中心的中心。下一阶段的Training规模和需求一定会越来越夸张。

Jensen最近谈到的下一阶段要进入40万GPU卡级别的Training Cluster意味着Frontier AI的竞争，正在从“训练一个大模型”，向“持续运行超大规模AI Research + Training系统”推进。

然后，更恐怖的是，反蒸馏还会把这场Training竞争进一步传导到后进模型，因为领先模型在做：

更大规模Training + 更快迭代 + RSI + 反蒸馏。

那么，后进模型就会同时面对两个压力：一方面，复制领先模型越来越难以及复制成本越来越高；另一方面领先模型本身进步越来越快。

这当然意味着：

后进模型只能建立自己的大规模算力集群，重回昂贵的大规模高强度的Training。

于是整个行业就会进入一个“Training军备竞赛”，Training不再只是少数领先模型公司的事，越来越多真正想进入第一梯队的模型公司，想真正去领先的公司，都需要巨额的投入和建设自己的Training体系。上周，字节跳动那296亿美元贷款全面建设自己的算力中心就是一个强烈的信号。

然后，市场会看到所有的模型公司都在：

持续训练、不断训练、然后进入下一轮训练。

（全文完）