实时解码速度 Toximiner/dsh-tokmeter

dsh-tokmeter

DeepSeek Harness Web UI 的实时模型解码速度（tok/s）胶囊标签。

原生状态栏显示的会话平均解码速度，只在助手步骤结束后才更新。dsh-tokmeter 增加一个小闪电胶囊标签，实时跟踪当前正在流式输出的响应速度，就放在输入框停靠区的原生胶囊标签旁边：

[ 1 turns 33 steps · 76 tok/s ] [ ⚡ 75.9 tok/s ] ← live, updates every stream delta

模型生成时（文本、推理或工具调用参数）胶囊标签出现，流停止约 2.5 秒后淡出。

工作原理

这是一个标准 DSH 客户端插件（槽位入口在 conversation.composer.dock，会话作用域）。聊天客户端通过 useChat(s => s.legacy.partial) 暴露实时的部分助手步骤；只要它非空，胶囊标签就每 250 ms 采样一次不断增长的块内容，把字符增长换算成估算的 token 速率（约 4 字符/token），再用指数移动平均做平滑：

rate = 0.7 * previous + 0.3 * (Δchars / 4) / Δt

这个数字是估算值，来自流式文本的增长——客户端收不到逐 token 的时间戳，所以长时间的工具调用流显示的数字可能和服务商侧的指标略有出入。

安装

需要带 Web UI 配置档的 DSH（DeepSeek Harness）。

from a git checkout (or a published registry):
dsh plugin --profile web add <your-url-or-package>

安装器会把包链接进配置档，并把 @local/dsh-tokmeter 追加到配置档 package.json 的 dsh.profile.bundles 中。重启 Web UI 服务器即可加载该 bundle（已链接包的客户端模块改动会热重载，无需重启）。

要求

- DSH ≥ 0.2.1-rc，带 Web UI bundle（@deepseek-ai/dsh-web-app）。
- 聊天客户端（@deepseek-ai/dsh-client-ui-chat）必须参与组合，会话作用域的槽位才能拿到 useChat 钩子。

开发

插件是普通包——没有构建步骤。

| 文件 | 用途 |
| index.js | 宿主入口（空；所有工作都在客户端完成）。 |
| client.js | 客户端模块：槽位注册 + React 胶囊标签。 |
| cordis.patch.yml | Bundle 组合补丁（插入入口）。 |
| icon.svg | 插件图标（插件管理器 UI）。 |

本地测试循环：

dsh plugin --profile web add /path/to/dsh-tokmeter
dsh --profile web --dump-config # must list '@local/dsh-tokmeter'

然后打开 Web UI，让模型给一段长回答——底栏的 ⚡ 胶囊标签会跟踪实时解码速度。

说明

- 胶囊标签只在带聊天视图的会话中渲染；没有流式输出时不可见。
- 颜色和指标使用标准 --dsw-alias-* 主题 token，因此会自动跟随浅色/深色主题。
- 胶囊标签的文字有意保持语言中立（tok/s）。