DeepSeek Harness Hub
← 返回列表

hccccc01333/dsh-eval

DeepSeek Harnessspec-screened在 GitHub 查看 ↗
未验证

dsh-eval独立仓库

尚未跑自动兼容性验证,可查看页面内的依赖与入口分析。 · 最近上游提交 2026/8/14 · 已提供中文文档

DeepSeek Harness 的智能体评估平台:基准 YAML、无头 dsh 编排、基于轨迹的指标、LLM 评判器、配对 A/B、无密钥回放,以及跨 harness 导入。

综合分
28
GitHub 分
28
用户评分
★ Stars
2
周下载量
安装插件(需先安装 dsh CLI 引擎:npm install -g @deepseek-ai/dsh)
dsh plugin --profile web add hccccc01333/dsh-eval
该插件未发布到 npm,走 GitHub 源安装(pnpm 若拦截 prepare 脚本,按其提示在 pnpm-workspace.yaml 的 allowBuilds 中放行后重跑)
数据截至 2026/9/18(元数据每日更新 · 实装验证按队列轮转,单条结论的验证时间见上方)
用户评分
还没有人投票,来当第一个
订阅周报,不错过优质插件更新
每周一封 · 高评分插件 + 新用户活动

README

dsh-eval(独立仓库)

独立开发目录:Agent Evaluation Platform 插件 dsh-eval,与
deepseek-harness 主仓的 WIP 隔离。

结构:

- packages/eval/ —— 插件本体(bundle + CLI app)。
- harness/ —— 指向本地 deepseek-harness 检出的 junction/symlink;pnpm
workspace 通过它解析 @deepseek-ai/* 源码包(0.1.0-rc.5);npm 发布版则对齐
官方 0.1.0-rc.6 peer 依赖,可直接安装。

快速开始(npm 直装):

pnpm add dsh-eval
dsh plugin --profile eval add dsh-eval

源码流程:

git clone https://github.com/hccccc01333/dsh-eval.git
cd dsh-eval
New-Item -ItemType Junction -Path harness -Target D:\path\to\deepseek-harness
pnpm install

当前能力(v0.2):

- dsh eval run benchmark.yaml —— benchmark 编排 + 自动指标 + 脚本化评分
(expected.tool 工具选择准确率、expected.check 任务成功)。
- LLM judge:judge 配置驱动最终答案得分与幻觉标记。
- 子 agent trace 归并:子 session 日志合并进 trial 指标。
- 配对 A/B:同 case 的 win/lose/tie 统计。
- keyless replay:有 key 录一次,CI 里从录制日志免 key 复现。
- 跨 harness 导入:dsh eval import codex|claude-code  --out run.json。
- dsh eval report run.json —— markdown 报告,含评分列与聚合比率。
- dsh eval compare run-v1.json run-v2.json —— 双 run 对比表,带 B - A 差值。

常用命令(在 D:\dsh-eval 下):

pnpm install
pnpm --filter dsh-eval test
pnpm --filter dsh-eval run typecheck
pnpm --filter dsh-eval build

上游仓库有新提交时邮件通知你(每天最多一封,无更新不打扰),随时一键退订。

💬 加入 DPharness 群聊

插件用法、部署报错、新插件第一时间同步——群里问,比一个人翻文档快。

点击加入 QQ 群
DPharness 群聊二维码,手机 QQ 扫码进群
扫码进群