Full text · 原文
1,312 字
henry 发自 凹非寺<br>
量子位 | 公众号 QbitAI<br>
强化学习+任意一张牌,往往就是王炸。<br>
专注于LLM+RL的科技公司OpenPipe提出全新开源强化学习框架——MCP·RL。<br>
只需一个MCP Server的地址,agent就能自动发现工具、生成任务,通过强化学习在闭环反馈中摸索出最优调用策略。<br>
在实测中,MCP·RL更是在2/3的benchmark上达到或超过SOTA性能,效果直接拉满。<br>
不套公式,在“做中学”,这就是专属RL的power!<br>
MCP·RL的做中学<br>
想明白MCP·RL怎么个“做中学”法,咱们有必要简单过一下传统MCP的流程:<br>
举个例子,假如你想让agent帮自己读邮件、分类、写回复,那么你就得提前设置好整个工作流:<br>
准备邮件数据、注册工具、写prompt规划执行顺序。<br>
此外,你还得设置回退逻辑,以防中途崩掉。<br>
而这只是一个发邮件的例子,功能一多,配置量指数级上升。<br>
最关键的是——你得知道怎么拆任务、调工具、写逻辑。<br>
换句话说,agent就是在做你给他出的完形填空。<br>
而你,我的朋友,要填除了空以外的所有东西。<br>
MCP·RL的提出就是为了解决这一问题。<br>
你只需提供MCP Server地址,不用配置工具、不用写prompt、不用人工标注。<br>
模型就能自己发现工具、自己设计任务、自己实战训练,边跑边学。<br>
简单来说,MCP·RL的训练流程分四步:<br>
发现工具:自动连接MCP Server,获取所有可用工具和参数。 <br>
生成任务:根据工具信息自己“脑补”出一批使用场景,作为训练任务(数据)。 <br>
实战训练:通过跑任务直接从经验中学习,搭配RULER评估策略,调参优化。 <br>
测试泛化:用新任务检验策略泛化性,让agent越用越顺手。<br>
总结下来就是:任务场景是什么?AI找;工具怎么用?AI学;流程怎么拆?AI想;效果好不好?AI试。<br>
一位网友精辟的点出了这一转变:<br>
我们曾借助MCP让AI调用工具,而现在是AI反过来利用MCP。<br>
那么,它的效果如何呢?<br>
正如我们开头提到的,MCP·RL在2/3的基准测试中达到SOTA。<br>
而在具体的部署层面,MCP·RL无需标注数据,适用于任何Server,无需定制MCP接口,开箱即用。<br>
One more thing<br>
MCP·RL是科技公司OpenPipe基于强化学习的智能体训练系统(Agent Reinforcement Trainer,ART)的最新项目。<br>
ART是一个开源强化学习框架,其核心思想是让LLM从经验中学习,从而提高agent的可靠性,ART可以将GRPO集成到任何Python应用中。<br>
在此前的实测中,ART(Agent Reinforcement Trainer)对Qwen 2.5-14B进行强化训练,其在一项电子邮件检索任务中表现优于o3,实现了SOTA(state-of-the-art)。<br>
参考链接:<br>
[1]https://x.com/corbtt/status/1953171838382817625<br>
[2]https://github.com/OpenPipe/ART?tab=readme-ov-file#-notebooks