DeepSeek Harness Hub
← 返回列表

实时性能仪表盘TnzGit/dsh-live-perf-gauges

DeepSeek Harnessspec-screened在 GitHub 查看 ↗
未验证

在输入框下实时显示解码速度与首字延迟

尚未跑自动兼容性验证,可查看页面内的依赖与入口分析。 · 最近上游提交 2026/9/5 · 已提供中文文档

DeepSeek Harness 的实时解码 tok/s、TTFT 和预填充吞吐量仪表板。

综合分
28.9
GitHub 分
28.9
用户评分
★ Stars
0
周下载量
安装插件(需先安装 dsh CLI 引擎:npm install -g @deepseek-ai/dsh)
dsh plugin --profile web add TnzGit/dsh-live-perf-gauges
该插件未发布到 npm,走 GitHub 源安装(pnpm 若拦截 prepare 脚本,按其提示在 pnpm-workspace.yaml 的 allowBuilds 中放行后重跑)
数据截至 2026/9/16(元数据每日更新 · 实装验证按队列轮转,单条结论的验证时间见上方)
用户评分
还没有人投票,来当第一个
订阅周报,不错过优质插件更新
每周一封 · 高评分插件 + 新用户活动

README

dsh-live-perf-gauges

English

DeepSeek Harness Web 的“汽车仪表盘”式实时性能条:在输入框下方显示 Decode tok/s、TTFT、端到端 Prompt 速率、流事件/MTP 指标和输出 token。

指标口径

- Decode tok/s:生成期间每 250ms 刷新。适配器若提供累计 usage,则优先使用;否则根据同一会话已完成步骤自动校准字符/token 比例,全新会话在尚未校准时不会捏造 tok/s。步骤结束后始终以服务商 usage 为准。
- TTFT:从 step/start 到第一段文本、思考或工具参数增量的耗时。
- Prompt/TTFT:逻辑 Prompt(input + cache read + cache write)÷ 端到端 TTFT。它不会再标成 vLLM 内核 Prefill,因为其中包含 DSH 开销、网络/排队时间与缓存 token。
- Stream:显示 DSH 逻辑增量事件频率和每事件生成 token;服务商 usage 到达后,后者为精确值,可用于观察 MTP/投机解码 acceptance。
- Output:同样遵循“先估算、后精确校正”。

插件绝不会假设“一条 SSE = 一个 token”。开启投机解码时,一个被接受的 MTP token 组可以由同一条流事件携带。

本插件不访问网络,不保存提示词、消息正文、工具参数或密钥;它只读取会话事件流中已有的时间戳、计数和最终 token usage。

安装

dsh plugin --profile web add github:TnzGit/dsh-live-perf-gauges

重启正在运行的 dsh web,然后硬刷新浏览器。下一次模型步骤开始后,性能条会显示在输入框下方。

开发

npm test

仓库直接提供无外部依赖的 Host 和 Client 构建产物,安装时无需构建。

许可证

MIT

上游仓库有新提交时邮件通知你(每天最多一封,无更新不打扰),随时一键退订。

💬 加入 DPharness 群聊

插件用法、部署报错、新插件第一时间同步——群里问,比一个人翻文档快。

点击加入 QQ 群
DPharness 群聊二维码,手机 QQ 扫码进群
扫码进群