分层模型路由 zhuzhujunandy/dsh-model-router

dsh-model-router

为 DeepSeek Harness（DSH）提供分层模型路由 —— 自动选用能完成任务的最便宜模型。

这是一个 monorepo，包含 DSH 插件及其管理界面。

📦 包

| 包 | 说明 |
| dsh-model-router | DSH 插件 —— 路由协议、delegate 工具、升级阶梯、护栏 |
| dsh-model-router-admin | 管理 Web 界面 —— 配置面板与活动监控 |

🚀 快速开始

前置条件

- Node.js ≥ 20
- DeepSeek Harness ^0.1.1-rc.2

安装与构建

Clone the repo
git clone https://github.com/zhuzhujunandy/dsh-model-router.git
cd dsh-model-router

Install dependencies
npm install

Build all packages
npm run build

添加到 DSH

Add the plugin to your DSH profile
dsh plugin --profile web add /path/to/dsh-model-router/dsh-model-router

然后把插件条目加到 ~/.dsh/profiles/web/cordis.patch.yml：

- insert:
- id: model-router
name: 'dsh-model-router'

重启 DSH（dsh web），然后在 Web GUI 里运行 /tiers 验证。

✨ 特性

- 路由协议注入 —— 向编排器的系统提示词注入一段紧凑的协议，包含分层表、任务分类和路由规则。
- delegate 工具 —— 一个面向模型的工具，自动把工作路由到合适的分层。
- 升级阶梯 —— 尝试失败后自动在下一层重试。
- 跨服务商回退链 —— 每层都可以声明备用的服务商/模型路由；主服务商未注册或尝试失败时，按顺序依次尝试。
- 强制验证（DoD 流水线，硬阻断） —— blocking 模式会运行 Definition-of-Done 检查清单和评分器 PASS 门禁；FAIL 会重新评分，然后硬阻断并升级。
- 计划注解 —— 每次委派结果都附带注解过的执行计划（每一步的分层/服务商/模型/成本，以及验证结果）。
- 后台 / 可继续委派 —— run_in_background: true 返回任务 jobId（一次性）或持久化的 subagentId（可继续，通过 send_message 继续）。
- 透明的逐步模型切换 —— model-router 适配器按任务类型分类请求，转发到对应分层的模型，并跨服务商透明回退。
- 推理强度安全路由 —— 请求的推理强度只会转发给真正声明支持该强度的路由；不支持的级别会被丢弃，改用服务商自己的默认值，而不是以 UNSUPPORTED_REASONING_EFFORT 失败。
- 预算模式 —— normal / budget / quality / deep 路由配置档；single 把所有请求和委派固定到一个模型（不路由）。
- 护栏 —— 每层的只读工具调用上限和重试次数限制。
- Web 设置卡片 — 直接在 DSH Web 设置面板里管理路由配置。
- 管理界面 — 基于 React 的控制台，用来配置和监控。
- Token 用量看板 — 按请求持久记录用量，提供按层级/模型/天的统计，支持实时刷新和一键重置。

📖 文档

- 插件 README — 详细安装、配置与用法
- 中文文档
- 用户指南（英文） — 安装、设置卡片、命令、工作流、故障排查
- 用户使用说明
- 单模型模式 — 固定单模型模式的设计

🏗️ 项目结构

dsh-model-router/
├── dsh-model-router/ # DSH plugin (TypeScript)
│ ├── src/ # TypeScript source
│ ├── lib/ # Compiled output
│ ├── package.json
│ └── README.md
├── dsh-model-router-admin/ # Admin UI (React + Vite)
│ ├── src/ # React components
│ ├── dist/ # Built assets
│ └── package.json
├── package.json # Workspace root
├── LICENSE
└── README.md

🛠️ 开发

Build the plugin
npm run build:plugin

Build and serve admin UI
npm run build:admin
npm run dev:admin

Run tests
npm run test

📋 配置

完整配置参考见插件 README。

- id: model-router
name: 'dsh-model-router'
config:
tiers:
fast: { provider: ark-code, model: deepseek-v4-flash-ga-260731, costRatio: 1, maxTokens: 8192 }
medium: { provider: ark-code, model: glm-5.3, costRatio: 5, maxTokens: 16384 }
heavy: { provider: ark-code, model: deepseek-v4-pro-ga-260813, costRatio: 20, maxTokens: 32768 }
defaultTier: medium
modes:
normal: { defaultTier: medium }
budget: { defaultTier: fast }
quality: { defaultTier: medium }
deep: { defaultTier: heavy }
single: { defaultTier: medium, single: { provider: ark-code, model: deepseek-v4-pro-ga-260813, maxTokens: 32768 } }

📜 许可

GPL-3.0

为 DeepSeek Harness 打造