Full text · 原文
1,702 字
henry 发自 凹非寺<br>
量子位 | 公众号 QbitAI<br>
人多,好办事。agent多,照样好办事!<br>
在最新的Andrew’s Letters中,吴恩达老师就指出:并行智能体正在成为提升AI能力的新方向。<br>
信中,他描绘了这样的一些场景:<br>
多个agent并行抓取分析网页,更快速地生成深度研究报告。<br>
多个agent协同处理代码库的不同部分,加快编程任务完成速度。<br>
多个agent在后台并行工作,同时由一个监督agent向用户提供反馈,实现并行异步控制。<br>
在这些场景中,多个agent协作,就像一支高效的agent team同时处理不同任务,速度快、效率高。<br>
这为我们理解AI能力的提升提供了新视角——<br>
不仅仅依靠更多的数据和算力,更重要的是让多个智能体协同并行工作。<br>
并行智能体才是未来<br>
以往,当我们谈论AI能力的提升时,更多依赖的是所谓的“力大砖飞”的scaling law,也就是希望通过更多的数据和算力来获得性能的提升。<br>
据吴恩达所说,这一点在他之前在百度和OpenAI的工作中,已得到了充分验证。<br>
但问题是,这些方法往往需要长时间才能输出结果。<br>
相比之下,并行运行的agent提供了另一种方式:在提升性能的同时,让用户无需长时间等待结果。<br>
此外,大语言模型token成本的不断下降,也让多个agent并行处理的方法变得可行。<br>
但就像网友指出的:如何协调多个agent呢?<br>
咱光给方向,不给答案也不行啊。<br>
对于这一疑问,吴恩达在信中也是有所提及:因为哪怕对于人类来说,将一个复杂任务(比如开发复杂的软件应用)拆分成小任务并交由下面的多个工程师并行完成,都就极具挑战,而一旦扩展到更多的并行单元,那么难度将会更大。<br>
同样的,将任务分解给多个智能体并行执行也并不容易。<br>
不过,凡事要用发展的眼光看问题:<br>
吴恩达以两篇最近的论文为例,说明了并行智能体研究的发展:<br>
一篇是来自Ryan Ehrlich等人的论文《Code Monkeys:Scaling Test-Time Compute for Software Engineering》。<br>
简单来说,这篇论文让大语言模型在推理时并行生成多个轨迹,来生成多样化的候选解决方案,从而提高编程问题解决的效率。<br>
其次是Together Mixture Of Agents(MoA)架构,它通过同时利用多个大语言模型来提升性能。<br>
值得一提的是,该架构还能进一步调整分层架构(每层包含的agent数和层数),来进一步提升性能。<br>
在信的最后,吴恩达总结道:<br>
在如何最优地利用并行agent方面,仍然有大量研究与工程工作需要探索。我相信,能够高效并行工作的agent数量,就像能够高效并行工作的人的数量一样,最终会非常庞大。<br>
最后的最后,我们不妨说句题外话。<br>
2009年,吴恩达在他的经典论文《Large-Scale Deep Unsupervised Learning Using Graphics Processors》中,首次系统性地展示了GPU在深度学习中的大规模应用。<br>
这篇论文不仅证明了GPU计算能显著提升卷积神经网络的训练效率,更预告着深度学习时代的到来。<br>
而这一切的核心,归根结底就俩字:<br>
并行。<br>
参考链接<br>
[1]https://x.com/AndrewYNg/status/1961118026398617648<br>
[2]https://www.deeplearning.ai/the-batch/agents-running-in-parallel-get-there-faster/<br>
[3]https://arxiv.org/pdf/2501.14723<br>
[4]https://docs.together.ai/docs/mixture-of-agents?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz–bx7Qwyz4z_x_fNl93PMa-tjsrHFwAsEMSCHyOV1wXdBXA9LRFQJ6RKmk8P7MHd0o7_REn