每秒狂喷近500个token！智谱GLM-5.3高速版悄悄亮相

智东西

作者 | 陈骏达

编辑 | 李水清

智东西10月12日报道，近日，智谱在其AI编程工具ZCode中，悄然开启了高速旗舰模型GLM-5.3 HighSpeed的测试。

X平台上的AI编程博主Leo爆料，他已经灰度到了这款模型，其输出速度竟然可以超过490 tokens/s。

每秒490个token是什么概念？目前，大模型API评测平台AI Ping的数据显示， DeepSeek V4.1 Flash官方API的输出速度为121.34 tokens/s ，而智谱官方的 GLM-5.3 API速度为70.84 tokens/s 。也就是说，GLM-5.3 HighSpeed达到了数倍于当前国内主流模型的速度。

GLM-5.3 HighSpeed目前只对ZCode订阅用户随机开放，也没有明确的内测申请入口。它在内测展现出的飞快速度应该也只能作为参考，最终还是得看实际上线后，对外规模化提供服务时的速度。

▲ZCode灰度测试GLM-5.3 HighSpeed（图源：X平台@leo114119）

其实，GLM-5.3 HighSpeed在一个月之前就出现在开源编程智能体Pi harness的官网上，这个模型的输入输出价格尚未披露。

从模型基本信息来看，GLM-5.3 HighSpeed拥有100万个token的上下文窗口，最多可以一次性输出131072个token，这和GLM-5.3的信息一致。

这不是智谱首次推出高速旗舰模型。今年5月，GLM-5.1就曾推出一个面向部分企业用户的高速版API“ GLM-5.1-highspeed ”，模型输出速度达到400 tokens/s。

当时，智谱展示了高速模型在实际生产场景的价值。一个Coding Agent任务往往需要经历数十轮模型调用，单轮响应只要慢上几秒，整体耗时就可能拉长十几分钟。

更快速的模型能给写代码的过程 “开10倍速” ，模型能够一边理解工程上下文，一边持续生成代码与修改方案，用户刚输入需求，函数、接口与调用链已经同步展开，迭代速度明显提升。

这种输出速度主要来自于软硬件基础设施的优化。此前，GLM 5.1 Highspeed模型API是由 智谱GLM团队与TileRT团队 联合打造的，这一API在推理引擎、调度系统与底层基础设施三个层面进行了系统级优化：

在推理引擎层，研究团队针对GLM-5.1的架构特点，重写了核心推理路径，有效提升了单卡吞吐能力；

在调度系统层，他们通过动态批处理、请求合并和KV缓存调度优化，显著降低高并发场景下的尾延迟；

最后，在基础设施层，团队围绕推理集群部署、网络链路、负载均衡进行协同优化，确保高速的输出成为稳定可用的生产级能力。

TileRT的核心思路是 放弃传统Runtime层的动态算子调度，把整个推理计算图在编译期静态编排成一个常驻GPU的persistent Engine Kernel ，从而把调度、访存和同步开销压到最低。

如今，提升模型推理速度已经成为不少厂商关注的重点，除了推出专门的快速模型之外， 把旗舰模型的速度再拔高一个量级也正成为新的竞争方向。

资讯由采集器定时从公开的机器人 / AI 信息源自动聚合。