大模型速度排行榜：输出速度、首字延迟与总响应时间

数据更新于 2026年10月25日 17:05；输出速度、首字延迟和总响应时间分别排序。三项指标含义不同，不能合并成一个未经说明的“最快”结论。

大模型哪个响应最快

如果你关心模型开始输出后生成得多快，当前输出速度前三是 Celeris-1、K2 Horizon 375B A23B、Mercury 2.5。如果你关心点击发送后多久看到第一个字，应看首 token 延迟；如果你关心完整任务多久结束，则要看端到端响应时间。

同一个型号可能在其中一项很快、另一项一般。聊天产品、代码助手和后台批处理对“快”的定义也不相同。

持续输出速度排行榜

1. Celeris-1 — 1591.9 token/秒
2. K2 Horizon 375B A23B — 878.7 token/秒
3. Mercury 2.5 — 728.4 token/秒
4. Nemotron 3.5 Super VL — 453.8 token/秒
5. Gemini 3.5 Flash-Lite — 413.8 token/秒
6. Beam 1.0 — 362.0 token/秒
7. Trinity Large Thinking — 357.1 token/秒
8. Nemotron 3.5 Lightning — 294.1 token/秒
9. Nova Micro — 287.0 token/秒
10. Nemotron 3 Nano (non-reasoning) — 275.3 token/秒

持续输出速度表示模型已经开始生成后，每秒输出多少 token。它直接影响长回答、代码生成和流式输出的阅读节奏，但不包含请求发出后的首次等待。

查看完整输出速度图表

首字延迟排行榜

1. North Mini Code — 0.45 秒
2. Command A+ — 0.52 秒
3. Celeris-1 — 0.56 秒
4. Nemotron 3.5 Lightning — 0.59 秒
5. NVIDIA Nemotron Nano 9B V2 — 0.64 秒
6. Nemotron 3 Nano (non-reasoning) — 0.65 秒
7. Ministral 3 3B — 0.67 秒
8. Beam 1.0 — 0.67 秒
9. Granite 4.2 8B — 0.72 秒
10. Granite 4.2 3B — 0.74 秒

首 token 延迟是从发送请求到收到第一个 token 的时间。搜索框、客服、聊天和实时助手通常对这项指标更敏感，因为用户会把“迟迟没有反应”理解为卡住。

查看首字延迟图表

总响应时间排行榜

1. Celeris-1 — 0.87 秒
2. Nemotron 3 Nano (non-reasoning) — 2.47 秒
3. Nova Micro — 2.55 秒
4. Ministral 3 3B — 3.07 秒
5. NVIDIA Nemotron Nano 12B v2 VL (non-reasoning) — 3.52 秒
6. Mistral Small 4 (non-reasoning) — 3.75 秒
7. Nova 2.0 Lite (non-reasoning) — 3.79 秒
8. Qwen3.5 Omni Flash — 3.89 秒
9. NVIDIA Nemotron Nano 9B V2 (non-reasoning) — 4.00 秒
10. Mercury 2.5 — 4.32 秒

端到端响应时间从请求开始算到完整回答结束。它同时受到首字延迟、推理过程、输出长度和持续输出速度影响，更接近“这次任务多久完成”。

查看总响应时间图表

为什么最快不一定最好用

模型速度只能说明等待体验，不能说明答案是否正确、任务是否完成或输出是否值得保留。当前综合智力靠前的候选为：

1. Claude Opus 5.5 (max with fallback) — 57.6
2. Claude Sonnet 5.5 (max with fallback) — 56.0
3. Claude Opus 5.5 (xhigh with fallback) — 56.0
4. Muse Wonder Full (max) — 55.8
5. Kimi K3.1 Pro — 55.1

真实产品通常需要设置能力底线，再在合格模型中比较速度。如果速度更快但错误率更高、需要频繁重试，最终完成时间和总成本反而可能更差。

按产品场景选择速度指标

• 聊天与客服： 首字延迟决定是否“立即有回应”，输出速度决定后续是否流畅，两项都要看。
• 代码助手： 短补全更重视首字延迟；生成完整文件或长解释时，持续输出速度影响更大。
• 智能体工作流： 端到端时间、工具调用等待和重试次数共同决定任务完成速度。
• 后台批处理： 用户不直接等待时，可以降低首字延迟权重，更重视总完成时间、吞吐与成本。
• 长推理任务： 较长等待可能来自更复杂的推理过程，不能只按速度删除高能力候选。

一套可复用的速度验收方法

1. 使用与你线上请求相同的输入长度、输出上限和推理设置。
2. 分开记录首 token、持续输出、完整响应和失败重试，不只记录平均值。
3. 对每个候选重复测试，观察高峰时段和较慢请求，而不是只看最快一次。
4. 同时记录答案是否合格；不合格的快速回答不算有效完成。
5. 把最终可用结果的时间与成本作为业务指标，再决定主模型和回退模型。

页面中的榜单用于快速筛选。接入前还需确认具体 API 供应方式、地区、并发、速率限制和流式返回行为，因为这些产品条件会影响真实延迟。

继续阅读

• GPT-5.6 推理强度怎么选
• AI API 模型怎么选
• AI 模型价格与任务成本对比
• AI 大模型综合排行榜