自适应模型路由icyaaaww/dsh-adaptive-model-router

dsh-adaptive-model-router

面向 DeepSeek Harness 的确定性逐轮自适应模型路由。简单工作使用经济模型；复杂工作以及停止取得进展的轮次会升级到质量模型。

该路由器不会调用另一个模型来对请求进行分类。路由是本地、同步、可复现的，并且不增加任何 token 或提供商请求。

该包面向 DeepSeek Harness 0.1.1-rc.2，并已针对其进行构建。

安装

dsh plugin --profile web add github:icyaaaww/dsh-adaptive-model-router

该包附带可运行的 ESM JavaScript，因此从 GitHub 安装不需要 prepare 构建或 pnpm 构建脚本许可。

对于此本地检出，请从其父目录运行：

dsh plugin --profile web add ./dsh-adaptive-model-router

配置

随附的 bundle 默认使用 DeepSeek Flash 和 Pro：

- id: adaptive-model-router
name: dsh-adaptive-model-router
config:
economy:
provider: deepseek-official
model: deepseek-v4-flash
quality:
provider: deepseek-official
model: deepseek-v4-pro
inputCharsThreshold: 1200
complexityKeywords: [architecture, migration, security, 架构, 迁移, 安全]
upgradeAfterStep: 2
upgradeAfterToolFailures: 1
failureExclude: [todo_write, job_output, job_list]
preserveUnknownSelection: true

每条路由还接受可选的 reasoningEffort 和 maxTokens。所选路由若没有 reasoningEffort，会清除上一个模型的 effort，以便所选适配器可以应用其自身的默认值；省略路由的 maxTokens 会保留显式请求限制。Temperature、停止序列以及所有其他请求字段保持不变。

路由行为

在每一轮的第一个被接纳步骤中，当进入文本达到 inputCharsThreshold 或包含配置的不区分大小写关键字时，路由器会选择 Quality。否则选择 Economy。

在该轮内，路由具有迟滞性：它可以升级到 Quality，但绝不会降级。当满足以下任一条件时，它会升级：

- 从零开始的请求步骤达到 upgradeAfterStep。
- 连续的非排除工具失败达到 upgradeAfterToolFailures。

一次成功的受跟踪工具只会重置失败计数器；它不会降级已经升级的轮次。新一轮会开始新的决策，并可能回到 Economy。

当 preserveUnknownSelection: true 时，当前既不指向任一配置路由的请求会原样通过。这可避免显式用户选择、其他提供商或专用视觉模型被静默替换。仅当此插件应接管每个对话请求时，才将其设置为 false。

模型体验
路由器会更改已记录的请求配置，并使系统提示中的 provider 和 model 模板变量与该路由保持一致。它不会注入任何提示、工具、消息或模型可见的隐藏指令。现有的 request/header 记录使每次路由变更都可持久化，并且对重放、遥测和客户端可见。

Token 影响

该插件本身不增加任何 token。节省量取决于有多少请求转移到经济路由以及提供商定价。

KV 缓存影响

更改提供商或模型会启动不同的提供商缓存标识。每轮滞后可防止在单轮内发生振荡，而新的用户轮次可能会有意选择不同的路由。

测试

npm test

限制

- 关键词和长度规则用于估算复杂度；它们并不衡量答案质量。
- 由策略拒绝导致的工具失败也会被计入，除非其工具被排除在外。
- 已经在运行的并行工具可能会在路由升级后完成。
- 路由器不会验证模型目录成员资格；可用性诊断由所选提供商负责。
- 不包含成本报告。比较部署前后的遥测数据以调整阈值。