DeepSeek Harness Hub
← 返回列表

代理运行验证agentrundb/does-it-run

DeepSeek Harnessspec-screened在 GitHub 查看 ↗
未验证

用标准测试用例实测 AI 代理并输出可复现证据

尚未跑自动兼容性验证,可查看页面内的依赖与入口分析。 · 最近上游提交 2026/8/20 · 已提供中文文档

针对标准测试用例运行 AI 代理,并发布可复现的证据。它真的能运行吗?—— agentrundb.com

综合分
28
GitHub 分
28
用户评分
★ Stars
1
周下载量
安装插件(需先安装 dsh CLI 引擎:npm install -g @deepseek-ai/dsh)
dsh plugin --profile web add agentrundb/does-it-run
该插件未发布到 npm,走 GitHub 源安装(pnpm 若拦截 prepare 脚本,按其提示在 pnpm-workspace.yaml 的 allowBuilds 中放行后重跑)
数据截至 2026/9/16(元数据每日更新 · 实装验证按队列轮转,单条结论的验证时间见上方)
用户评分
还没有人投票,来当第一个
订阅周报,不错过优质插件更新
每周一封 · 高评分插件 + 新用户活动

README

does-it-run

它真的能运行吗?

does-it-run 针对标准测试用例执行 AI 代理,并输出
可复现的证据 —— 运行记录、耗时、成本、差异 —— 这是
agentrundb.com 上每个兼容性页面背后的事实层。

网站内容不是写出来的。而是运行出来的。

它的作用

1. 准备一个带有失败单元测试的隔离夹具仓库
2. 使用标准任务调用编码代理(无头 CLI)
3. 通过运行测试套件验证结果
4. 输出 AgentRunDB 标准运行 JSON:

{
"sourceRunId": "claude-code-deepseek-read-repo-edit-run-test-1765432100123",
"compatibility": {
"agentSlug": "claude-code",
"targetType": "model",
"targetSlug": "deepseek"
},
"testCase": "read-repo-edit-run-test",
"status": "passed",
"duration": 72.4,
"toolCall": true,
"fileEdit": true,
"tokens": 12450,
"cost": 0.18,
"errors": [],
"evidence": ["log.txt"]
}

快速开始(本地)

1. Requires: node >= 22, git, and the agent CLI installed (e.g. claude)
claude --version

2. Dry run — no model calls, prints the plan
npm run verify:dry -- --agent claude-code

3. Real run against DeepSeek
DEEPSEEK_API_KEY=sk-... npm run verify -- --agent claude-code --model deepseek

4. Import into a local AgentRunDB site
(inside the site repo: pnpm agentrundb:import )

报告会写入 data////,其中包含原始
代理日志(log.txt)、报告(report.json)以及夹具差异。

CI(GitHub Actions)

.github/workflows/verify.yml 按计划运行矩阵。所需的仓库
密钥:

| 密钥 | 用途 |
|---|---|
| DEEPSEEK_API_KEY / KIMI_API_KEY / GLM_API_KEY / QWEN_API_KEY | 模型 API 密钥 —— 解析为 _API_KEY(或通用的 API_KEY) |
| IMPORT_URL (可选) | 站点摄取端点,例如 https://agentrundb.com/api/runs/import |
| IMPORT_TOKEN (可选) | 摄取端点的 Bearer 令牌 |

如果没有 IMPORT_URL,工作流只会将运行 JSON 作为产物上传。

添加代理适配器

创建 agents/.js 并导出:

export default {
slug: 'my-agent',
async checkInstalled() { /* throw if the CLI is missing / },
buildEnv({ model, apiKey }) { / return env overrides / },
async invoke({ workdir, task, timeoutMs }) { / run the agent headless */ },
};

然后运行 npm run verify -- --agent my-agent。

测试用例

用例以 JSON 形式存放在 cases/ 中。每个用例定义任务提示、
预期结果及其使用的夹具。用例与站点上的 test_cases
行一一对应 —— 保持 slug 同步。

许可证

MIT

上游仓库有新提交时邮件通知你(每天最多一封,无更新不打扰),随时一键退订。

💬 加入 DPharness 群聊

插件用法、部署报错、新插件第一时间同步——群里问,比一个人翻文档快。

点击加入 QQ 群
DPharness 群聊二维码,手机 QQ 扫码进群
扫码进群