模型最值钱的部分不是答案,是它推导答案的过程——11月20日,OpenAI 把这部分正式上锁了。

一、54% 到 0.2% 的成绩单

OpenAI 11月20日发布《Combatting adversarial distillation》,第一次系统公开反蒸馏细节。

核心数字来自内部红队测试:攻击者从早前请求中提取模型受保护推理(chain-of-thought)的成功率,从 GPT-6 Astra 原防护下的 54.0%,降到 GPT-6.2 Astra 新防护下的 0.2%;当前请求的提取率也从 22.9% 降到 0.9%。

为什么盯着思维链不放:中间推理步骤包含最终答案没有的信息,是训练竞品模型的高价值数据。锁答案没用,答案满世界都是——真正值钱的是「怎么想到答案的」。

报告给了组对照实验:同一个学生模型,用完整思维链训练的版本,在高推理预算下超过了只用用户可见摘要训练的版本。换句话说,思维链里确实有摘要装不下的东西,拿它当训练数据「抄作业」,抄走的能力更多。

二、三道门怎么锁的

请求级:对抗训练让模型识别并拒绝提取企图;输入分类器抓「你在套我的推理」,输出分类器抓泄漏——连工具调用的参数都查。

API 级:推理与产生它的对话历史绑定。改写任何一条早前消息,其后的推理直接被 API 丢弃;旧模型家族读不了新模型的推理;跨会话复制加密推理的漏洞也被堵上。

战役级:跨账号排查协调行动,每周处置数千到数万个账号,攻击指标与其他模型厂商共享。

这套标准 OpenAI 对齐的是生物安全和网络安全级别——言下之意:蒸馏已经不是「占便宜」,是安全事件。

三、复制能力容易,复制护栏难

OpenAI 的论证逻辑很直白:非法蒸馏出来的模型,拿到的是能力,带不走原模型的护栏。

内部对照实验给了证据:同一个学生模型,用完整思维链训练的版本,在最高推理预算下超过了只用用户可见摘要训练的版本。也就是说,思维链本身就在转移能力——不锁,双用领域能力(网络安全、生物研究)会绕开原模型的防线扩散出去。

报告还提到,9月曾披露一次协同提取行动,核心活动归因于与 Moonshot AI(Kimi 开发商)相关的人员。封锁的不只是学术好奇,是有组织的产能。

四、开发者要注意的接口变化

对普通用户,这套防护无感;对做 agent 的开发者,有三处实打实的变化:

  • 改写历史 = 丢推理。上下文压缩、消息重排、把对话挪到旧模型,都会触发推理丢弃。OpenAI 给的替代是 append-only:用 configuration_update、additional_tools、追加 developer message 代替改写。
  • 加密推理是会话私产。跨 workspace、跨组织搬运 reasoning item 会被拦。
  • 防护正在成为产品特性。Anthropic 上周也宣称 Fable 5.2 有史上最强蒸馏攻击防护——闭源前沿模型的护城河,已经从「能力领先」扩展到「防复制能力」。

五、一句话结论

蒸馏攻防战把思维链抬成了核心资产:以前的护城河是模型多强,现在的护城河是「你连我的思考过程都拿不走」。开源模型追能力,闭源模型锁能力——两条路线的分岔,比榜单上的分数更值得盯。

参考来源