Google's New Discovery: DeepSeek Reasoning Splits into Multiple Personalities, Left and Right Brains Collaborate to Get Smarter

闻乐 发自 凹非寺<br> 量子位 | 公众号 QbitAI<br> AI变聪明的真相居然是正在“脑内群聊”？！<br> 谷歌最新研究表明，DeepSeek-R1这类顶尖推理模型在解题时，内部会自发“分裂”出不同性格的虚拟人格，比如外向的、严谨的、多疑的……<br> 大模型的解题推理过程，就是这些人格一场精彩的社交、辩论会；左右脑互搏be like：<br> “这个思路对吗？试试这样验证……”<br> “不对，之前的假设忽略了xx条件”<br> ……<br> 有意思的是，AI还越吵越聪明。<br> 研究发现，当遇到GPQA graduate-level科学问题、复杂数学推导这类高难度任务时，这种内部观点冲突会变得更加激烈。<br> 相比之下，面对布尔表达式、基础逻辑推理等简单任务，模型的脑内对话会明显减少。<br> 模型推理过程就是“左右脑互搏”<br> 团队通过分析DeepSeek-R1和QwQ-32B等模型的思维轨迹发现，它们的推理过程充满了对话感。<br> 内部分裂出来的虚拟角色不仅性格迥异，还能覆盖更多解题角度。<br> 创意型角色擅长提出新颖思路，批判型角色专注挑错补漏，执行型角色负责落地验证……<br> 通过这些人格的一场交流，不同观点的碰撞能让模型更全面地审视解决方案。<br> 就连网友都说，自己在思考的时候，也会“左右脑互搏”。<br> 不过，这种多角色互动并不是开发人员刻意设计的，而是模型在追求推理准确率的过程中自发形成的。<br> 那么实验是如何证明这一点的呢？<br> 团队借助稀疏自编码器SAE，对AI的推理黑盒进行了深度解码，成功“监听”到了AI的脑内群聊。<br> 首先，研究者让AI执行复杂的数学或逻辑推理任务。在模型产出思维链的同时，团队同步提取其隐藏层神经元的激活数值。<br> 但此时的数据是由数亿个参数构成的复杂非线性信号，无法直接对应任何语义。<br> 将这些激活数据输入SAE，通过SAE的稀疏约束机制，就可以把杂乱的激活拆解为“自问自答”、“切换视角”等独立的对话语义特征；<br> 通过分析这些特征的激活频率以及它们在时间序列上的协同关系，团队成功识别出了不同的内部逻辑实体。<br> 再给上述特征打上“规划者”、“验证者”等虚拟角色的标签，就成功解码了AI内部的多角色对话行为。<br> “哦！”能让推理更准确<br> 通过对比DeepSeek-R1与DeepSeek-V3、Qwen-2.5-32B-IT这类普通指令模型的推理轨迹，发现推理模型的对话式行为出现的频率显著更高。<br> 这里还有个很有意思的发现——<br> “哦！”能让推理更准确。<br> 当团队通过激活添加法强化模型的对话特征，放大“哦！”这类表达惊讶、转折的话语标记时，模型在Countdown算术推理任务中的准确率直接从27.1%翻倍至54.8%。<br> 更关键的实验证据来自强化学习训练。<br> 研究人员不提供任何对话结构的训练信号，只奖励模型答对题目的行为，结果发现模型会自发学会用对话式思考；<br> 而先通过多智能体对话数据对模型进行微调，再进行推理训练，进步速度会远快于直接训练推理或用独白式推理数据微调的模型。<br> 在Qwen-2.5-3B和Llama-3.2-3B两个模型体系中，早期训练阶段对话微调模型的准确率比独白微调模型高出10%以上，Llama-3.2-3B到训练后期差距甚至扩大到22%。<br> 这一发现恰好呼应了人类演化生物学中的著名理论社会脑假说。<br> 假说认为人类大脑的进化主要是为了应对复杂的社交关系和群体互动需求。<br> 如今看来，AI也是一样，为了变聪明，得先会和不同“人格”社交！<br> 论文地址：https://arxiv.org/abs/2601.10825<br> 参考链接：https://x.com/sebkrier/status/2013331596863041731<br> — 完 —