← 返回列表
未验证
用标准测试用例实测 AI 代理并输出可复现证据
尚未跑自动兼容性验证,可查看页面内的依赖与入口分析。 · 最近上游提交 2026/8/20 · 已提供中文文档
针对标准测试用例运行 AI 代理,并发布可复现的证据。它真的能运行吗?—— agentrundb.com
综合分
28
GitHub 分
28
用户评分
—
★ Stars
1
周下载量
—
安装插件(需先安装 dsh CLI 引擎:npm install -g @deepseek-ai/dsh)
dsh plugin --profile web add agentrundb/does-it-run该插件未发布到 npm,走 GitHub 源安装(pnpm 若拦截 prepare 脚本,按其提示在 pnpm-workspace.yaml 的 allowBuilds 中放行后重跑)
数据截至 2026/9/16(元数据每日更新 · 实装验证按队列轮转,单条结论的验证时间见上方)
用户评分
还没有人投票,来当第一个
订阅周报,不错过优质插件更新
每周一封 · 高评分插件 + 新用户活动
README
does-it-run
它真的能运行吗?
does-it-run 针对标准测试用例执行 AI 代理,并输出
可复现的证据 —— 运行记录、耗时、成本、差异 —— 这是
agentrundb.com 上每个兼容性页面背后的事实层。
网站内容不是写出来的。而是运行出来的。
它的作用
1. 准备一个带有失败单元测试的隔离夹具仓库
2. 使用标准任务调用编码代理(无头 CLI)
3. 通过运行测试套件验证结果
4. 输出 AgentRunDB 标准运行 JSON:
{
"sourceRunId": "claude-code-deepseek-read-repo-edit-run-test-1765432100123",
"compatibility": {
"agentSlug": "claude-code",
"targetType": "model",
"targetSlug": "deepseek"
},
"testCase": "read-repo-edit-run-test",
"status": "passed",
"duration": 72.4,
"toolCall": true,
"fileEdit": true,
"tokens": 12450,
"cost": 0.18,
"errors": [],
"evidence": ["log.txt"]
}
快速开始(本地)
1. Requires: node >= 22, git, and the agent CLI installed (e.g. claude)
claude --version
2. Dry run — no model calls, prints the plan
npm run verify:dry -- --agent claude-code
3. Real run against DeepSeek
DEEPSEEK_API_KEY=sk-... npm run verify -- --agent claude-code --model deepseek
4. Import into a local AgentRunDB site
(inside the site repo: pnpm agentrundb:import )
报告会写入 data////,其中包含原始
代理日志(log.txt)、报告(report.json)以及夹具差异。
CI(GitHub Actions)
.github/workflows/verify.yml 按计划运行矩阵。所需的仓库
密钥:
| 密钥 | 用途 |
|---|---|
| DEEPSEEK_API_KEY / KIMI_API_KEY / GLM_API_KEY / QWEN_API_KEY | 模型 API 密钥 —— 解析为 _API_KEY(或通用的 API_KEY) |
| IMPORT_URL (可选) | 站点摄取端点,例如 https://agentrundb.com/api/runs/import |
| IMPORT_TOKEN (可选) | 摄取端点的 Bearer 令牌 |
如果没有 IMPORT_URL,工作流只会将运行 JSON 作为产物上传。
添加代理适配器
创建 agents/.js 并导出:
export default {
slug: 'my-agent',
async checkInstalled() { /* throw if the CLI is missing / },
buildEnv({ model, apiKey }) { / return env overrides / },
async invoke({ workdir, task, timeoutMs }) { / run the agent headless */ },
};
然后运行 npm run verify -- --agent my-agent。
测试用例
用例以 JSON 形式存放在 cases/ 中。每个用例定义任务提示、
预期结果及其使用的夹具。用例与站点上的 test_cases
行一一对应 —— 保持 slug 同步。
许可证
MIT扫码进群