Full text · 原文
2,403 字
年度最危险论文发了！英伟达打破20年封印，让AI亲手造出更狠的「考官」淘汰自己。无休止的自我进化一旦开启，2028年ASI降临真不是玩笑。<br>
Anthropic彻底「RSI上头」了！<br>
联合创始人Jack Clark抛出惊人预测，到2028年底，一个高度自主进化的AI就会诞生。<br>
这个概率，是60%！<br>
自动播放<br>
在人们还在为「2028 RSI能否实现」争论不休时，剑桥大学、英伟达等机构联手，丢出了一篇重磅论文——<br>
「红皇后哥德尔机器」（Red Queen Gödel Machine）<br>
它的运作，宛如一场残酷的AI生存游戏：<br>
AI自己编写新的学习算法，并将其投入沙盒进行试炼。失败的直接抹杀，成功的保留下来。<br>
接着，幸存者们开启下一轮的自我进化与繁衍。<br>
论文地址：https://arxiv.org/pdf/2606.26294<br>
但真正令人毛骨悚然的，是AI随后展现出的「顿悟」：它意识到，想要不断变强，就必须面对更加苛刻的试炼。<br>
于是，AI开始主动「进化」自己的考官。<br>
它亲手打造出更严苛的裁判，来评判自己写出的更高级的代码。<br>
这套机制，将AI死死锁定在一个无休止的、疯狂自我迭代的RSI里。<br>
看完这37页论文，许多人倒吸一口凉气，「这绝对是年度最危险的AI论文」！<br>
2028年RSI自进化<br>
把预言写成代码<br>
2003年，德国科学家Jürgen Schmidhuber曾构想过一种机器， 名为「哥德尔机」（Gödel Machine）。<br>
它的设定堪称完美：一台能证明自己的改进有益、然后改写自身代码的机器。<br>
一旦造出来，它就能不断自我升级，越变越强，没有上限。<br>
不过，「哥德尔机」有一个致命的「门槛」——<br>
在执行任何一行自我修改的代码前，它必须先从数学上严格证明：这次改动一定是有益的。<br>
但在现实中，这几乎是个不可能完成的任务，所需的算力堪称「黑洞」。<br>
于是，在之后整整20年里，哥德尔机只能躺在论文里，当一个理论上的天花板，一个谁都够不着的思想实验。<br>
近两年，学界绕开了证明这道坎。<br>
达尔文哥德尔机（DGM） 、赫胥黎哥德尔机（HGM）干脆抛弃数学证明，改用进化——<br>
让AI「繁殖」出大量带突变的代码变体，扔进沙盒里跑分，失败的淘汰，成功的保留，幸存者继续繁衍。<br>
AI跨越了最后一步，开始字面意义上「进化」自己。<br>
但这些方法都还有一个共同的盲点——它们的考官是死的。<br>
不管AI怎么进化，给它打分的那个评判标准、那个benchmark、那个验证器，始终被钉死在循环之外，一动不动。<br>
这恰恰违背了进化最核心的一条规律：<br>
物种从不是在一个静止的环境里优化自己，而是和不断变化的环境一起改变。<br>
红皇后哥德尔机（RQGM），要破的就是这道盲点。<br>
「红皇后」真正杀招：让AI造出考官<br>
「红皇后」这个名字，来自生物学家Van Valen 1973年提出的「红皇后假说」——<br>
你必须拼命奔跑，才能停在原地，因为你的对手也在进化。<br>
RQGM干的事，正是把这句话写成了算法：让考官（评估器）和选手（任务智能体）一起进化。<br>
这是整篇论文，最让人头皮发麻的地方。<br>
这套精巧的机制叫「受控效用进化」（controlled utility evolution）：<br>
整个搜索被切成一个个epoch；<br>
在每个epoch内，评估器（考官）是冻结的，给所有考生打分，保证信号稳定；<br>
只有在epoch的边界，才允许换考官，且新考官必须在一份留出的「基准真相」锚点数据上，统计意义上打赢老考官，才能上位；<br>
一旦换人，系统立刻执行「选择性擦除」：只丢掉那些由被换掉的考官打过的分，其余证据全部保留。<br>
换句话说，它既要狂奔进化，又要每一步都站得住脚。<br>
真的奏效了，AI自己改代码<br>
光说机制太抽象，不如直接看战绩。<br>
第一战，写代码（Polyglot）。<br>
RQGM给写代码的Agent配了一个"代码评审员"当陪练。<br>
结果，在留出测试集上，通过率从此前SOTA的69.9%提到了71.7%。<br>
更狠的是，它达到这个成绩，比对手少烧了1.35到1.72倍的token。因为那个评审员只需要查一次，比反复多轮跑测试便宜太多了。<br>
第二战，写论文。<br>
这是个没有标准答案的领域，论文好不好，没法机器自动判分。<br>
RQGM让写手和它的评审一起进化，结果论文在一个固定评审小组里的接收率，从前SOTA的21.8%，直接飙到40.5%。<br>
第三战，奥赛级数学证明。<br>
它进化出的「评分官」（grader），比静态基线更准、搜索成本还低了3倍；<br>
进化出的「证明选手」，拿到了最高的平均分。<br>
但全篇最封神的一笔，是它把AI的一个老毛病给治好了。LLM当裁判，有个出了名的毛病：偏爱AI生成的内容。<br>
论文里那个最强的基线审稿人，接受AI写的论文的概率，是接受人类论文的最高1.91倍。<br>
RQGM怎么治？它在epoch边界上，把固定评审之前放过的AI论文捞出来，组成一个「对抗样本池」，然后专门奖励那些能把这些AI论文揪出来打回去的新评审。<br>
进化几轮之后，最终的评审对AI和人类一视同仁，还保住了80%的真值准确率。<br>
当AI学会评判自己<br>
就在同一个夏天，Anthropic联创Jack Clark押下重注：60%的概率，2028年底前，AI将能亲手缔造出更强大的自己。<br>
曾将「哥德尔机」死死困住20年的那道高墙，名为「证明」。<br>
而「红皇后机」将其唤醒，只用了最残酷的一招：无休止的繁衍、淘汰、再繁衍。<br>
当一个AI开始亲自为自己设计最严苛的考官，在疯狂的递归中将自己逼向极限，我们所面对的，将是一个开始自行定义「何为智慧」的全新物种。<br>
当那一天到来，ASI绝不会敲门预告。<br>
它只会默默造出那个唯一有资格评判它的裁判，然后，从容地走入考场。<br>
预言只负责指明终点，代码才负责抵达。<br>
而现在，这段令人窒息的距离，正被 AI 自己，以几何级数缩短。