中国政策档案 Governance Archive HOLDINGS 234,771 · FONDS 122
Record · qbitai ACC. 900074893

2025 Large Model Service Performance Ranking: PPIO Tops Throughput Test

2025大模型服务性能排行榜:PPIO吞吐测试排名第一

Issuer
Date
2025-09-16
Instrument
other
Cited by
0
At the GOSIM 2025 conference, Tsinghua University and China Software Testing Center jointly released the 2025 Large Model Service Performance Ranking, evaluating MaaS providers on latency, throughput, and reliability. PPIO ranked first in throughput for DeepSeek-R1-0528.
Full text · 原文 825 字
9 月 13 日,在 GOSIM2025 大会上,清华大学携手中国软件评测中心联合发布了《2025 大模型服务性能排行榜》,PPIO 在 DeepSeek-R1-0528的吞吐测试中排名第一。<br> 该榜单从延迟、吞吐、可靠性等关键指标切入,由专业团队通过长周期、高频率、多时段的数据评测,直观呈现不同MaaS供应商的服务表现。而且,平台以匿名用户身份对 MaaS(Model as a Service)平台开展产品端到端的性能测评,从评测主体与流程上双重保障了客观公正性。<br> 本次评测覆盖多个代表性模型,包括 DeepSeek-R1-0528、DeepSeek-V3.1、Kimi-K2-Instruct 等。PPIO 在 20 余家 MaaS 供应商中表现突出。<br> 其中,在 DeepSeek-R1-0528 的吞吐测试中,PPIO 以 45.17 tokens/s 的成绩位列第一。在 DeepSeek V3.1、Kimi-K2-Instruct 等模型测试中,PPIO 在吞吐与延迟性能上也取得了前五名的成绩。<br> 吞吐 (Throughput) 与延迟 (Latency) 与 是评测模型表现的两个重要维度。吞吐(Throughput)衡量在单位时间内可处理的 Token 数量,高吞吐代表平台能支撑更多用户同时使用,尤其适合大规模应用场景;延迟(Latency)衡量用户从输入到获得首个回复所需的时间,低延迟意味着更快的响应速度,直接影响用户体验。<br> PPIO 在这两个维度都表现优秀,不仅能提供流畅的实时交互,也能在高并发和大规模任务处理中保持稳定。这意味着 PPIO 的算力调度、模型部署、系统优化等推理优化的核心技术,已获得行业的权威认可。<br> 作为国内领先的独立分布式云计算服务商,PPIO 将持续优化 AI 基础设施,致力于为人工智能、智能体、实时音视频处理、具身智能等新一代场景,提供极致⾼性价⽐、超弹性、低延迟的⼀站式智算、模型及边缘计算服务。