← 返回列表
未验证
在输入框下实时显示解码速度与首字延迟
尚未跑自动兼容性验证,可查看页面内的依赖与入口分析。 · 最近上游提交 2026/9/5 · 已提供中文文档
DeepSeek Harness 的实时解码 tok/s、TTFT 和预填充吞吐量仪表板。
综合分
28.9
GitHub 分
28.9
用户评分
—
★ Stars
0
周下载量
—
安装插件(需先安装 dsh CLI 引擎:npm install -g @deepseek-ai/dsh)
dsh plugin --profile web add TnzGit/dsh-live-perf-gauges该插件未发布到 npm,走 GitHub 源安装(pnpm 若拦截 prepare 脚本,按其提示在 pnpm-workspace.yaml 的 allowBuilds 中放行后重跑)
数据截至 2026/9/16(元数据每日更新 · 实装验证按队列轮转,单条结论的验证时间见上方)
用户评分
还没有人投票,来当第一个
订阅周报,不错过优质插件更新
每周一封 · 高评分插件 + 新用户活动
README
dsh-live-perf-gauges English DeepSeek Harness Web 的“汽车仪表盘”式实时性能条:在输入框下方显示 Decode tok/s、TTFT、端到端 Prompt 速率、流事件/MTP 指标和输出 token。 指标口径 - Decode tok/s:生成期间每 250ms 刷新。适配器若提供累计 usage,则优先使用;否则根据同一会话已完成步骤自动校准字符/token 比例,全新会话在尚未校准时不会捏造 tok/s。步骤结束后始终以服务商 usage 为准。 - TTFT:从 step/start 到第一段文本、思考或工具参数增量的耗时。 - Prompt/TTFT:逻辑 Prompt(input + cache read + cache write)÷ 端到端 TTFT。它不会再标成 vLLM 内核 Prefill,因为其中包含 DSH 开销、网络/排队时间与缓存 token。 - Stream:显示 DSH 逻辑增量事件频率和每事件生成 token;服务商 usage 到达后,后者为精确值,可用于观察 MTP/投机解码 acceptance。 - Output:同样遵循“先估算、后精确校正”。 插件绝不会假设“一条 SSE = 一个 token”。开启投机解码时,一个被接受的 MTP token 组可以由同一条流事件携带。 本插件不访问网络,不保存提示词、消息正文、工具参数或密钥;它只读取会话事件流中已有的时间戳、计数和最终 token usage。 安装 dsh plugin --profile web add github:TnzGit/dsh-live-perf-gauges 重启正在运行的 dsh web,然后硬刷新浏览器。下一次模型步骤开始后,性能条会显示在输入框下方。 开发 npm test 仓库直接提供无外部依赖的 Host 和 Client 构建产物,安装时无需构建。 许可证 MIT
扫码进群