Different Model Makers, Same Agentic Infrastructure: Foundation of AGI Era Emerges

Full text · 原文 3,662 字

克雷西发自上海 量子位 | 公众号 QbitAI 先说一件有意思的事。 就在今天的WAIC论坛上，MiniMax和阶跃星辰，同时出现在了一家AI Infra公司的论坛现场，前者参加战略合作签约，后者发布主旨演讲。 苗头其实更早就出现了。4个月前的中关村论坛上，智谱张鹏和Kimi杨植麟就曾与这家公司联合创始人兼CEO同框，参与圆桌论坛，并被现场点名该公司已为Kimi、智谱提供服务。 四家国产头部基模公司，先后跟同一家AI Infra达成了深度合作。开句玩笑话——集齐四家，就可以召唤神龙了。 这家AI Infra公司，正是无问芯穹。 这个身位有点像「电池领域的宁德时代」——造车的人可以「兄弟登山，各自努力」，但电池这一层，绕不开就是绕不开。无问芯穹想做的，就是大模型时代的共同选择。 问题也因此变得更有趣了： 他们到底看中了这家公司什么？ 答案要从两头找。 需求端，2026年推理开始反超训练，成为AI算力消耗的主战场，推理成本两年降了280倍，企业的AI总支出却没降反升，中国日均Token调用量已经突破140万亿，一年涨了四成，需求呈指数级往上冲。 供给端却完全是另一副面孔。物理算力的扩产逻辑还是线性的，多修几个机房、多买几张卡，缺口却在三五年内都填不平。 一边指数增长，一边线性爬坡，中间那道口子，就是无问芯穹想站进去的位置。 更难的是，模型部署得好不好，外人很难判断。 一个请求发下去，模型正常回复了，但输出的精度可能已经悄悄掉了三成，这种问题常规监控查不出来。 等到用户在业务里察觉到不对劲，模型的招牌已经砸了。 这道看不见的门槛，才会真正决定哪家供应商能留在牌桌上。 为什么国产大模型优选无问芯穹？ Token经济全面爆发以来，推理需求正在加速，算力缺口也在持续扩大。 但MaaS这门生意的门槛，比外界想象的高得多。 Kimi、智谱、MiniMax、阶跃星辰为什么都点了头，自然有他们自己的算盘，但本质上是同时把三件事押了上去—— 比如：模型效果会不会打折，成本烧不烧得起，出了问题稳不稳得住。 先说效果。 前面提到的那种隐蔽滑坡，是这个行业最让人头疼的地方。 有第三方供应商部署模型后，精度比原厂掉了30%，客户自己甚至察觉不到，直到业务指标开始下滑才回头排查。 无问芯穹在这件事上的做法，是定了一套准入测试标准。 这套标准，会从工具调用的一致性，到推理模式的精度对齐，逐项进行核验，每一个新模型上架前都要过这道关。 结果是，客户无论走无问芯穹还是原厂API，体验几乎感觉不到差别。 再来是成本。 无问芯穹在今年WAIC官宣了一项自研的硬技术——跨集群异构PD分离。 大模型推理里的Prefill和Decode是两个负载完全不同的阶段，硬件需求也不一样，拆开部署能让不同类型的芯片各自干最擅长的事。 但拆到不同机房后，会撞上一个新问题。 PD分离之后，需要在异构芯片之间用广域网以太网传输KV Cache，面临着带宽低、延迟高的情况，等于两个接力选手各自都跑得很出色，但在交棒的时候，却掉了链子。 为此，无问芯穹首先把Decode实例设计的Radix Cache技术，创新性地迁移到了这套跨集群架构里，让传输的数据量直接降低一个数量级。 接着，他们又首创了PDD架构，把传统的PD链路拆成P、RelayDecode、MainDecode三级。 遇到传输延迟高的请求，RelayDecode先顶上去把Token吐给用户，用户完全感觉不到这段实际长达数十秒的延迟，等数据传完，再无缝切给MainDecode接手。 实测显示，该架构在首Token延迟（TTFT）降低51.5%的同时，单Token成本可降低37.5%。 最后是稳定性。 集群规模一大，故障往往藏得很深。 大模型推理背后要管理数十上百个集群，扛住全国每天上T规模的流量分发，服务器一旦宕机，靠人盯着屏幕根本来不及反应。 无问芯穹这次发布了“智算集群运维智能体系统”，能够端到端地解决实际生产场景中的运维难题，7×24小时全天候值守，让智算集群的运维从“人找问题”转变为“问题找人”，和“问题自己解决”，实现了运维人效提升5倍以上，关键故障处理效率提升6倍。 前店后厂一中心，构建系统竞争力 三件事都解决了，仅仅只是构成了Token工厂这一层的地基。 无问芯穹真正要交出去的答卷，是把算力、Token、生产力串成一个完整的系统，对应它自己提出的那个公式—— AI生产力 = 智能资源规模 × Token转化效率 × AI生产力转化效率。 一中心，指的是「算力集散中心」，即Agentic Infra自主式基础设施平台。 国产芯片生态天然碎片化，无问芯穹把散落各处的算力资源统一汇聚、弹性调度、按需利用，为模型与应用层筑牢充足、稳定、可扩展的算力底座。核心目标非常明确：实现智能资源规模最大化。 这个集散中心已部署触达37000P算力，覆盖接入16种主流芯片。 跨集群强化学习的挑战，同样是在这一层被啃下来的。无问芯穹认为，在Post-training的Scaling Law持续发展的当下，强化学习成为解锁智能的关键。 其算力需求的硬件种类更加复杂，规模量级也更加庞大，基于异构和超大算力规模的双重刚需，跨集群强化学习因此成为智能规模化及持续进化的新锚点，这也是无问芯穹Agentic Infra自主式基础设施平台重点布局与攻克的核心场景。 无问芯穹把网络、平台、框架三层的优化贯穿到底，成功实现了跨域强化学习训练连续一周0中断稳定运行，让大规模跨域强化学习不仅可以“跑得通”，还能“跑得快、跑得稳”。 未来，无问芯穹还将针对并行策略、通信融合、智能算子、极致容错等核心技术持续深耕，将跨域计算资源的支撑规模，持续拓展至十万卡级以上。 后厂，也就是「Token工厂」，即Agentic MaaS大模型服务平台。 这是前面讲的效果、成本、稳定性三重优势真正兑现的地方，核心思路是“在规模之上向效率要产能”，也是一整套从网关、路由到底层推理实例的完整服务技术栈，“层层可优化、处处有增量”。 在这个「工厂」里，除了上文提到的新技术“跨集群异构PD分离架构”，无问芯穹还和多家头部大模型公司深度合作，在真实业务场景里持续打磨推理效率和服务稳定性，业务规模又反过来推动技术迭代得更快。 公司官宣：截至7月，无问芯穹Agentic MaaS平台的日均Token调用量，较去年12月涨了40倍。 它还与上海移动联合打造了“天问”模型服务门户，联合观猹做了一个面向开发者的「TokenDance」，对标OpenRouter。 前店，是把攒下的能力覆盖千行百业的「AI生产力商店」，即Agentic Infra行业解决方案。 这套解决方案已覆盖文娱游戏、医疗健康、法律终端、能源电力等多个行业领域，把技术势能全面转化为各行业能用、好用、可复用的落地价值。 比如：和VAST做了3D游戏解决方案，帮上海瑞金医院探索医疗大模型的落地场景，给几家律所做了AI合伙人产品，还在和南方电网琢磨智算中心的能耗预测。 在支撑千行百业智能升级的另一面，无问芯穹也持续将智能体的能力应用到AI Infra本身。 公司打造了一套基础设施智能体蜂群，目前已包含—— 面向用户的平台管家智能体系统：可以独立解决80%日常问题，剩下20%深度问题再转交对应垂类Agent； 面向集群的运维智能体系统：让智算集群的运维从“人找问题”转变为“问题找人”，和“问题自己解决”。可实现运维人效提升5倍以上，关键故障处理效率提升6倍； 面向芯片的算子生成智能体系统：可在真实编译试错与知识沉淀中持续自迭代，稳定交付可直接落地的高质量工业级算子。在GLM 5.2模型的实测中，对比行业基线该系统在NVIDIA旗舰卡中实现了端到端7.3%的性能提升，在AMD旗舰卡中，更带来39%的整体性能跃升。 三块拼在一起，前店在各行业里攒下的经验，会反过来优化后厂的推理策略和一中心的调度，三者互相反哺。 Token只是入口 如果只把无问芯穹理解成一家卖Token的公司，会漏掉它完整的商业模式。 「Token工厂」只是入口，它真正在铺的，是面向Agent时代推出的「前店后厂一中心」的完整Agentic Infra战略布局。 这些方向拼在一起，才是它想讲的完整故事。 这套故事有没有说服力，上文提到的深度合作方是最直接的佐证。 把目光放到海外，无问芯穹对标的是Baseten、Together AI、Fireworks AI，估值都在130亿到150亿美元区间。 但这三家的底层都建在英伟达单一生态之上，而无问芯穹面对的是一个远比海外碎片得多的国产芯片生态，也因此把多元异构和更完整的架构布局，做成了自己的护城河。 回到开头那个问题——这几家头部模型厂，为什么都在Infra这件事上点了头——答案可能并没有那么复杂。 懂算力、懂模型结构、懂训推优化、懂应用场景，这四件事同时做到，就是这条赛道真正稀缺的能力。

Site key	qbitai
Policy area	人工智能基础设施
Category	report
AI score	0.34

Different Model Makers, Same Agentic Infrastructure: Foundation of AGI Era Emerges

不同模型厂同一家Agentic Infra，AGI时代的地基终于浮出水面