🏢 公司C档 · NaN分

两个Token,让Kimi变Claude?

··约1分钟阅读

📋 总体概括

前Google DeepMind研究员发现,前沿模型的加密推理可被跨会话重放、套取,31.5万条隐藏思考被解码,两个Token甚至能让Kimi呈现Opus风格。本文拆解这场安全危机的技术路径、产业含义,以及最高法新规与GPT-6 Astra可监控性下降背后的治理信号。

📄 正文

两个Token,就能让一个模型的回答开始像另一个模型——这不是玄学,是被写进论文的实验结果。

前Google DeepMind研究员Ilia Shumailov和ELLIS Institute Tübingen、MPI-IS博士生Alexander Panfilov发现,前沿AI模型引以为傲的"加密思考",密封程度可能比所有人想象的都要脆弱。与此同时,最高人民法院出台了专门审理涉AI纠纷的司法意见,OpenAI则在新模型卡里罕见承认:思维链的可监控性显著下降了。

三件事撞在同一周,指向同一个判断:AI的"思考过程"正在从实验室议题,变成商业风险、安全漏洞和法律争点。

📉 密封的信封,从来没封上

先说一个反直觉的事实:那个"密封信封",可能从来就没封上过。

当下的前沿模型,回答问题前会先"思考"——生成一段推理过程,再将其加密后交还给用户。设计初衷很清楚:用户能看到最终答案,但看不到模型原始的思维链,既保护能力秘密,也防止被用于蒸馏。

Ilia Shumailov和Alexander Panfilov的研究戳破了这层假设。他们发现,这些加密数据块可以跨用户、跨会话重放,甚至可以在同系列模型之间流转。更具杀伤力的操作是:把强模型的加密推理,塞给同一家族的小模型,就能套出GPT-5、Claude等前沿模型原本藏起来的思考。

这背后的产业逻辑值得所有厂商警惕:密封是单点防御,而模型的生态是系统性的。只要同一家族内存在一个"能读懂信封"的解码器,整条产品线的思考过程就共享同一个风险敞口。厂商把大小模型打包成产品矩阵卖,也就把所有模型的推理安全绑在了一起。

换句话说,安全不是给每个信封上锁的事,而是整个信件系统的事。

🔓 31.5万条思考,和散落在里的API密钥

如果说理论发现还嫌抽象,那么数据的规模感会让人坐不住。

两位研究者随后从GitHub和Hugging Face上公开的Agent轨迹中,解码出了31.5万条隐藏推理。更麻烦的是,其中一些推理文本里,混着不该出现在那里的东西:API密钥、邮箱、内部IP地址——就这样被摊开在了阳光下。

泄露物类型潜在后果
API密钥凭据被盗用,产生意外费用与数据风险
邮箱成为精准钓鱼与社工攻击的入口
内部IP地址内网拓扑信息暴露

这不是研究者的"故意的猎奇",而是Agent时代的一个结构性问题:AI在替企业和开发者执行任务时,会把上下文——包括凭据、内网信息——写进推理轨迹。这些轨迹一旦被托管到公开平台,或者被第三方工具采集,思考过程就成了新的泄露面。

据多位接近行业的人士私下形容,Agent轨迹现在处于一种"既是数据资产、又是合规负债"的暧昧状态:公司希望拿它做训练和复盘,却没有几个人真正审计过里面装了什么。

产业判断很清晰:Agent时代的安全审计,必须从"输出内容"前移到"推理轨迹"。过去企业做数据防泄漏,盯的是员工邮件和代码库;接下来,AI助手的每一次思考日志,都需要同等甚至更高级别的治理。31.5万条公开可解码的推理,只是冰山露出水面的部分。

🧬 两个Token之谜:Kimi为何呈现Opus风格

整个研究里最诡异、也在社交网络上传播最广的,是一个连研究者自己都解释不了的现象。

实验是这样的:只在Kimi-K3的推理开头,预填充两个来自Opus的Token,一部分可见答案就发生了变化——开始看起来像Opus模型的回答。

模型预填充两个Opus Token后
Kimi-K3部分可见答案呈现Opus风格
GLM未出现同类现象
Inkling未出现同类现象
DeepSeek未出现同类现象

需要强调的是,Ilia和Alexander在讨论中明确表示,他们自己也解释不了Kimi-K3为什么会把开头两个Token与最终答案联系起来。任何指向"蒸馏"的结论,目前都只是外界的猜测,而非论文的定论。

但外界的猜测有其逻辑:一种流行的假说是,如果模型在训练中大量接触过某个模型的输出特征,输入端两个对应的Token就可能成为某种"开关"。这只是一种可能性——同样的现象也可能来自对齐方式、数据配比、采样策略等无数其他因素。

真正的产业启示在于另一层:模型的行为指纹,正在变得可以被外部识别。过去判断一个模型"像谁",靠的是跑评测集;现在,两个Token就能触发风格迁移式的变化,这意味着模型与训练数据之间的关系,成了黑箱中的黑箱。

对头部厂商而言,这是一个双刃剑:既要证明自己模型的独立性,又要在缺乏可解释性工具的前提下自证清白。当外界可以用两个Token做"亲子鉴定",训练数据合规就不再只是内部流程问题,而是随时可能被公开检验的信誉资产。

📜 法院开始给AI划线

技术在前面狂奔,规则在后面补课——现在,补课的人到了。

近日,最高人民法院制定了《关于依法审理涉人工智能纠纷案件的意见》,在民法典、网络安全法、著作权法等现行法律基础上,明确了涉人工智能纠纷案件的审理规则。

直接触发这一规则的,是一批新类型纠纷的涌现:"AI换脸拟声""AI复活逝者""网络开盒""大数据杀熟"。其中,利用深度生成合成技术,违法处理特定自然人或死者的姓名、肖像、声音等人格要素的现象,被点名"较为普遍"。

《意见》给出了两层规则:其一,利用人工智能处理特定自然人或死者的姓名、肖像等,不得违反法律法规,不得违背公序良俗;其二,结合具体场景,分别明确侵权责任的认定与承担。

这对AI产业意味着什么?意味着责任链条开始被司法实践一节一节接上。过去,"模型生成的""平台分发的""用户上传的"之间责任模糊,出事了互相推诿;《意见》选择按具体场景切分,等于告诉产业链上每一环:你的那一节,法院会单独看。

把它放进本文的语境里,这条新闻的价值才完整:当31.5万条推理轨迹里能翻出API密钥和内部IP,当两个Token能改变模型行为,AI系统的输出随时可能踩到他人的人格权、商业秘密甚至数据合规红线。而最高法的新规,正是把这类技术风险转化为法律责任的转化器。

对厂商来说,模型卡怎么写、数据怎么处理、Agent日志怎么管,正在从公关问题变成诉讼风险。

⚠️ 可监控性,正在被悄悄交易掉

这项研究在Twitter上发布后,40小时内获得了300万浏览量。热度之外,一个更值得玩味的信号出现在商业一线。

就在本周,OpenAI开始向部分客户开放GPT-6 Astra时,其模型卡披露了一个罕见的变化:"根据我们的评估,与此前模型相比,GPT-6 Astra的思维链(CoT)可监控性显著下降。"模型卡还称,在大多数输出Token长度下,Astra的"全上下文可监控性显著低于GPT-5.6 Sol"。

把最近的一系列事件排成一条线,脉络就清楚了:

  • 研究发布:加密推理可被重放套取,40小时300万浏览
  • 同一周:OpenAI向部分客户开放GPT-6 Astra,模型卡披露可监控性显著下降
  • 随后:两位研究者做客Machine Learning Street Talk播客,与主持人Tim Scarfe讨论论文
  • 近日:最高人民法院发布涉AI纠纷审理意见

值得注意的是,OpenAI没有隐瞒,反而把可监控性下降写进了模型卡——这本身是行业透明度的进步。但它同时承认了一个行业不愿明说的事实:能力跃迁,往往以可监控性为代价。模型思考得越深、越自主,人类能看清的部分就越少。

这正在改写企业采购AI的评估逻辑。过去看榜单、看价格、看API稳定性;接下来,"可监控性"会和安全审计、数据合规一起,进入采购清单的必查项。尤其在最高法明确按场景追责之后,企业客户采购的每一个模型,都可能成为未来纠纷中的被告之一。

小结

密封的信封没封上,两个Token能让模型"变脸",法院开始按场景划责任,头部厂商在模型卡里承认监控性在退化——四件事拼在一起,是同一个产业的转折信号:AI的"思考过程"正式进入了风险资产表。

接下来的竞争,不止是跑分和价格。谁先把可解释性、轨迹治理和可监控性做成产品能力,谁就能在监管落地和企业客户之间,拿到下一阶段的信任溢价。安全,正在从成本项变成定价权。

本文由本站 AI 辅助聚合生成,原始来源如下:

🔎 本文基于以下资讯(素材溯源 · 信息来源)

📰 相关阅读推荐(与本文相关的其他资讯)