Full text · 原文
3,013 字
克雷西 鹭羽 发自 凹非寺<br>
量子位 | 公众号 QbitAI<br>
OpenAI的AGI之路，总裁Greg Brockman在最新的访谈中说清楚了——<br>
技术层面，从文本生成转向强化学习的推理范式，在现实世界中试错并获取反馈；<br>
资源策略上，持续投入大规模计算资源；<br>
落地环节，把模型封装成Agent，将模型能力打包成为可审计的服务进程。<br>
这场访谈由AI播客Latent Space主持，与Brockman探讨了OpenAI的AGI的整体技术路线与资源策略。<br>
与此同时，OpenAI的落地布局，以及Brockman对未来的思考，也都随着访谈的进行浮出水面。<br>
总结下来，Brockman表达了这些核心观点：<br>
模型正在不断增强现实交互能力，这也是下一代AGI的关键组成部分；<br>
AGI的主要瓶颈在于计算，计算量的多少直接决定了AI研究和发展的速度与深度；<br>
AGI真正的目标是让大模型在企业和个人的工作流里长驻，手段就是Agent；<br>
把模型接进现实世界的应用领域极具价值，各个领域还有大量尚未采摘的果实。<br>
模型推理范式的转变<br>
谈及OpenAI刚刚发布的GPT-5，Brockman认为这是AI领域的一场重大范式转变，作为OpenAI第一个混合模型，旨在弥补GPT系列与AGI的距离。<br>
在训练GPT-4之后，OpenAI给自己提出了一个问题：<br>
为什么它不是AGI？<br>
GPT-4虽然可以进行连贯的上下文对话，但可靠性欠佳，会犯错甚至脱离轨道。<br>
因此他们意识到需要在现实世界中测试想法，并通过强化学习获取反馈，从而提高可靠性。<br>
这一点在OpenAI早期的Dota项目中就有所实现，当时使用了纯强化学习，可以从随机初始化状态中学习复杂行为。<br>
所以从GPT-4完成的那一刻起，OpenAI开始尝试转向新的推理范式，即先让模型通过监督数据学会对话，再借助强化学习反复在环境中试错。<br>
传统的模型训练是一次性训练，然后进行大量推理，而GPT-5则借助强化学习，让模型在推理过程不断生成数据，然后基于这些数据重复训练，将模型与现实世界的观测结果反馈到模型中。<br>
这种新范式改变了所需数据的规模，原先预训练可能需要数十万个示例，但强化学习只需要从10到100个任务中学习复杂行为。<br>
同时也说明模型正在不断增强现实交互能力，这也是下一代AGI的关键组成部分。<br>
计算能力决定AGI开发上限<br>
当被问及当前AGI开发中的主要瓶颈时，Brockman明确表示：计算。<br>
他认为，只要拥有更多的计算能力，OpenAI就总能找到迭代和提高模型性能的方法，计算量的多少直接决定了AI研究和发展的速度与深度。<br>
例如同样是在Dota项目中，当时普遍认为PPO （近端策略优化）算法无法实现扩展，但他们通过将内核数量翻倍，实现了性能的持续提升，所以其实所谓的算法壁垒在扩大计算资源后就能得以解决。<br>
而当前GPT-5的强化学习范式虽然带来了更高的样本效率，但仍然需要模型进行数万次尝试才能重复学会一项任务，这需要巨大的计算量支撑。<br>
更进一步，图灵曾为AGI提出的“超临界学习”概念，认为机器不仅要学习被即时教授的内容，还要深入思考其二阶、三阶甚至四阶效应，并更新整个知识体系。<br>
这种更深层次学习过程则同样需要投入更多的计算资源，OpenAI当前的目标就是探索如何以更具创造性的方式消耗计算，以实现这种高级学习能力。<br>
Brockman将计算描述为一种基本燃料，可以将能量转化为存储在模型权重中的势能，推动模型执行有效操作。<br>
一旦模型通过大量计算训练完成，就可以被反复利用，在多任务中分摊巨大的计算成本。<br>
另外，他也预测最终的AGI将会是一个模型管理器，将小型的本地模型与大型云推理器结合，以实现自适应计算。<br>
GPT-5的多模型混合和路由机制就是这种方式的一个初步尝试，将推理模型和非推理模型结合，并通过条件语句选择合适的模型。<br>
推理模型更适用于深度智能但有充足思考时间的场景，非推理模型则用于快速输出回合。<br>
这种复合式的模型充分利用了计算的灵活性，能够根据任务需求组合不同能力和成本的模型，也是AGI最可能呈现的面貌。<br>
因此在AI驱动的未来经济中，计算将成为需求极高的资源，拥有更多计算资源的研究人员可以产出更优质的成果，如何获取计算资源及计算的分配方式将成为一个非常重要的问题。<br>
让大模型进入生产<br>
Brockman反复强调，模型不再是科研样品，而是要成为现实生产线的一环。<br>
他指出，AGI真正的目标是让大模型在企业和个人的工作流里长驻，而不是停留在论文与演示当中。<br>
具体的落地路径就是把模型封装成Agent，将模型能力打包成为可审计的服务进程。<br>
Brockman认为，这种交互像与资深同事协作，一个关键要素在于可控性——可以“随时停下让你检查”，而且任何一步都能回滚。<br>
为了保证高权限Agent可控，OpenAI设计了双层结构的“纵深防御”：<br>
模型内部，把system、developer、user三种指令排出可信度顺序，使“忽略此前所有指令”这类注入在第一关就被丢弃；<br>
模型外部，把每个潜在高危操作拆成最小粒度，通过多级沙箱逐一确认。<br>
对于这种模式，Brockman用数据库安全进行了类比：<br>
就像防SQL注入，必须先在最低层把洞堵死，再往上叠加护栏，系统自然稳固。<br>
安全护栏之外，与人类之间的价值对齐也是一项重要工程。<br>
工程团队先通过后训练从海量潜在“人格”中去除普遍不受欢迎的类型。<br>
随后，剩余的“人格”被放入公开竞技场接受实时评分，评价高的策略在下一轮被放大，评价低的被削弱，从而形成模型与社会偏好的协同进化。<br>
这一流程将保证模型能力升级时不脱离人类共识，也为未来引入在线学习打下数据基础。<br>
另外，为了增强生态黏性，OpenAI还把轻量级开源列为第二驱动力。<br>
Brockman的判断是，当开发者在这些模型上沉淀工具链，实际上就默认采纳了OpenAI的技术栈。<br>
“各个领域还有大量尚未采摘的果实”<br>
放眼未来，Brockman认为真正值得投入的机会不在于再造一个更炫的“模型包装器”，而是把现有智能深植于具体行业的真实流程之中。<br>
对很多人来说，似乎好点子都被做完了，但他提醒，每一条行业链都大得惊人。<br>
把模型接进现实世界的应用领域极具价值，各个领域还有大量尚未采摘的果实。<br>
因此，他建议那些“觉得起步太晚”的开发者与创业者，先沉到行业一线，理解利益相关者、法规和现有系统的细节，再用AI去填补真正的缺口，而不是只做一次性的接口封装。<br>
当被问到如果要给2045年的自己留一张便签会写什么时，他的愿景是“多星际生活”与“真正的丰裕社会”。<br>
在他看来，以当前技术加速度推演，二十年后几乎所有科幻情节都难以否定其可行性，唯一的硬约束只剩下物质搬运本身的物理极限。<br>
与此同时，他也提醒，计算资源会成为稀缺资产；即便物质需求被自动化满足，人们仍会为了更高分辨率、更长思考时间或更复杂的个性化体验而渴求更多算力。<br>
如果能穿越回18岁，他想告诉年轻的自己，值得攻克的问题只会越来越多，而不会减少。<br>
我曾以为自己错过了硅谷的黄金年代，但事实完全相反——现在正是技术发展的最好时机。<br>
在AI将渗透一切行业的背景下，机遇不仅未被耗尽，反而随技术曲线的陡升而倍增.<br>
真正的挑战是保持好奇心，敢于投入新的领域。<br>
参考链接：<br>
[1]https://www.youtube.com/watch?v=35ZWesLrv5A