实测笔记 · 2026-10-27

Hermes / time-to-first-text

【实测】Hermes 里 6 个模型,谁先吐字?

短提示下,MiniMax-M3.1-Flash 与 DeepSeek V4.1 Flash 中位首字都在 1 秒内;Qwen3.8 Flash 约 1.3 秒;GLM、Kimi、GPT-6.1-sol 落在 4–5 秒档。Kimi 追问明显变慢(13.81 秒),GLM 则是首轮慢、追问很快。这是体感延迟,不是智商榜。

怎么测

昨晚在 Mac Mini 上跑的一轮 Hermes 原生 gateway 首字延迟基准。

环境

Mac Mini。teamlead 配置,原生 Hermes gateway,Hermes 专用 Magpie key,低推理,并带上正常 Hermes 上下文与工具定义。

方法

计时

从 prompt.submit 前一刻起,到第一条非空可见 message.delta。含提示准备、网络、排队和模型推理,不含建会话。思考中指示不计入可见正文。

方法

样本

每个模型独立隐藏会话:相同短提示 ×3,再加 1 次短追问。24 轮全部流式出字,无工具调用;库表核对无模型 fallback。测试会话已关闭并隐藏。

方法

时间

2026-10-27 00:11:08(Asia/Shanghai)。

方法

中位首字

越短越快。单位:秒。

按中位首字从快到慢。数据时间 2026-10-27 00:11 Asia/Shanghai。
模型中位首字3 次范围首轮追问
MiniMax-M3.1-Flash0.890.61–1.491.491.33
DeepSeek V4.1 Flashdeepseek-v4.1-flash-10170.910.68–1.031.031.18
Qwen3.8 Flashqwen3.8-flash1.321.14–2.242.244.65
GLM-5.3 Flashglm-5.3-flash4.121.35–5.515.511.21
Kimi k3.1-prok3.1-pro4.153.17–5.925.9213.81
GPT-6.1-solgpt-6.1-sol4.793.84–5.573.846.88
Hermes 首字延迟中位条形图。短提示 ×3:MiniMax-M3.1-Flash 0.89 秒,deepseek-v4.1-flash-1017 0.91 秒,qwen3.8-flash 1.32 秒,glm-5.3-flash 4.12 秒,k3.1-pro 4.15 秒,gpt-6.1-sol 4.79 秒。
▲ 六模型中位首字对比
首轮与追问首字延迟对比。追问:MiniMax 1.33 秒,DeepSeek 1.18 秒,Qwen 4.65 秒,GLM 1.21 秒,Kimi 13.81 秒,GPT-6.1-sol 6.88 秒。
▲ 首轮 vs 追问

看点

1 秒内

两个 Flash 国产路由进 1 秒内:MiniMax-M3.1-Flash 中位 0.89 秒,DeepSeek V4.1 Flash 中位 0.91 秒,体感最接近「秒回」。

看点

GLM

GLM-5.3 Flash 首轮 5.51 秒,追问掉到 1.21 秒。首轮偏慢,缓存或热身后反差大。

看点

Kimi

Kimi k3.1-pro 追问飙到 13.81 秒,短对话场景要小心。

看点

GPT-6.1

GPT-6.1-sol 中位 4.79 秒,三次范围 3.84–5.57 秒,稳定在 4–5 秒档。不算拖后腿,也不抢头条。

看点

样本小、全是短提示。不能代表长上下文、复杂任务或工具链,也不含微信/飞书投递延迟。这是体感延迟,不是智商榜,更不是模型质量排名。

同步自微信公众号「Hobson 小党」· 2026-10-27 · 原发公众号贴图