解码吞吐统计 Ayshinko/pi-dsh-tps

pi-dsh-tps

为 Pi 提供 DSH 风格的解码吞吐量：页脚显示一个稳定的 tok/s 数字，按任务测量，不含工具耗时。

⚡ 87 tok/s

它不是实时仪表。只有助手响应结束时数字才会变化，模型流式输出或工具运行期间，数字绝不跳动。

测量什么

任务指从一条用户提示词开始，直到智能体稳定下来（一次运行，加上它触发的重试、续写或追问）。

该任务中的每个助手响应：

- 解码时间 = 第一个非空流式增量 → 助手消息结束（排队时间、预填充、首个 token 之前的思考都不计入）
- 输出 token = 服务商上报的该响应 usage.output

然后：

TPS = sum(output tokens) / sum(decode seconds)

每完成一个响应，状态行用累计总量刷新一次，所以它会收敛，不会闪烁。工具执行时间从不测量。/dsh-tps 打印明细：

198.22 tok/s · 200 output tok · 1.01s decode · 2 LLM responses

与 DeepSeek Harness（DSH）的关系

DeepSeek Harness 是 DeepSeek 的开源智能体框架（deepseek-ai/deepseek-harness）。它的统计条显示一个解码 TPS，算法相同，本扩展为 Pi 重新实现了这套模型。

来自 DSH 的 sessionStats 投影（packages/session/session-stats/src/projection.ts）及其 UI（StatsPills.tsx）：

// DSH, per step
decodeMs += max(0, assistantMessageTime - firstTokenTime)
decodeTokens += usage.outputTokens

// DSH, displayed
tps = decodeTokens / (decodeMs / 1000)

本扩展对齐的部分

| DSH | pi-dsh-tps |
| 解码窗口 = 首个 token → 组装完成的消息 | 第一个非空增量 → message_end |
| 首个 token = 第一个非空的文本/推理/工具参数增量 | 相同 |
| token 取自服务商 usage，从不估算 | usage.output |
| TPS = Σ token / Σ 解码时间，不是各响应 TPS 的平均 | 相同 |
| 没有首个 token 或没有 usage 的步骤跳过 | 相同 |
| 取消/出错的步骤不计入 | stopReason: "error" \| "aborted" 跳过 |
| 工具时间单独统计，绝不进入 TPS | 工具时间从不测量 |
| 10 以上取整，10 以下保留一位小数 | 相同的格式化规则 |

不同的部分

- 范围。 DSH 在整个会话上聚合（还有一个窗口折叠）；本扩展在当前任务上聚合，新任务开始时重置。
- 来源事件。 DSH 读取自己的持久事件日志（step/start、assistant/message、tool/call、tool/result）。Pi 暴露的是扩展事件（agent_start、message_start、message_update、message_end、agent_settled），所以边界是映射过来的，不是照搬的。
- 没有 TTFT、轮次或步骤胶囊。 只显示解码 TPS。
- 时钟。 DSH 用日志里的事件时间戳；这里用的是 Pi 事件边界上的本地墙上时钟。

免责声明。 这是独立、非官方的扩展。它与 DeepSeek 没有关联，也不由 DeepSeek 维护或背书，且不包含任何 DeepSeek Harness 代码。计算逻辑依据 DSH 公开的源码重新实现。

安装

pi install git:github.com/Ayshinko/pi-dsh-tps

不想安装，只想跑一次试试：

pi -e git:github.com/Ayshinko/pi-dsh-tps

卸载：

pi remove git:github.com/Ayshinko/pi-dsh-tps

零运行时依赖。@earendil-works/pi-ai 和 @earendil-works/pi-coding-agent 由 Pi 提供，这里只声明为 peer dependencies。

用法

- 任务运行时，页脚显示 ⚡ <tps> tok/s；空闲时保留最后一次的值。
- /dsh-tps 显示当前任务的累计数据。
- 新提示词会重置测量。任务没产生有效样本时，会清掉过期的值。

准确性说明

- token 数完全以服务商上报的为准。如果服务商对某次响应没有给出用量，就跳过这次响应，而不是猜一个数。
- 解码时间用本地时钟在 Pi 的事件边界上测量，因此包含从首个 delta 到消息组装之间任何客户端开销。
- 同一个任务内的重试和续写会累加，不会重置数值。
- 上报输出 token 为零的响应，仍然计入其解码时间，与 DSH 一致。

测试

node tests/decode-tps.test.mjs

无依赖；使用 Node 内置的类型剥离（Node 22.6+）。

许可证

MIT