思考档位路由 changsong1986/dsh-llm-effort-router

dsh-llm-effort-router

为 DeepSeek Harness (DSH) 设计的分层思考输出路由插件：每次模型请求发出前，根据任务特征自动决定 DeepSeek 模型的 reasoningEffort（off / high / max），在不影响开发任务质量的前提下大幅减少思考 token 消耗。

效果

| 任务类型 | 决策 | 说明 |
| 机械操作（格式化/转换/排序/重命名/正则） | off | 思考归零，纯转换类任务无质量损失 |
| 简短问答（翻译/总结/解释，<120 字符且无代码） | off | 思考归零 |
| 多轮工具任务 / 常规开发 | high | 保持质量（工具轮需要思考回传） |
| 复杂推理（架构/算法/安全/表结构/长文>600字符） | max | 深度思考 |
| 用户手动选择 off / max | 不干预 | 尊重用户硬选择 |

实测数据（开发工作负载）：DeepSeek 思考 token 平均占输出的 36%，简单任务会话可高达 75%；本插件按任务分层后，输出费用可减少 10-20%。

原理

DSH 的 agent 循环在每次模型请求发出前会经过 agent/request 瀑布钩子（dsh-llm-retry 即同类扩展点的先例）。本插件在该钩子中：

1. 读取 agent 会话历史（最近用户消息、工具调用记录）
2. 用纯规则（词表 + 长度阈值，零额外 LLM 调用）判断任务类型
3. 改写请求配置的 reasoningEffort 后放行

安装

1. 将本包放入 DSH profile 的 node_modules （以 Windows 上 web profile 为例）
cp -r dsh-llm-effort-router <DSH_HOME>/profiles/node_modules/@deepseek-ai/

2. 在 profile 的 cordis.patch.yml 中注册

profiles/<name>/cordis.patch.yml
- insert:
- id: llm-effort-router
name: '@deepseek-ai/dsh-llm-effort-router'

3. 重启 dsh web 生效。

仅作用于 deepseek-official provider（支持 reasoningEffort 语义的模型）；本地 Ollama 等不受影响。

配置

词表与阈值均可通过插件 Config 覆盖（在 patch 中指定）：

- id: llm-effort-router
config:
simpleMaxChars: 120 # 简短问答长度上限 complexMinChars: 600 # 长文判定阈值 debug: true # 打印每次决策日志（稳定后关闭）

词表：mechanicalWords（机械操作）、simpleWords（简短问答）、complexWords（复杂推理）。

验证

重启后发一条简单消息，查看会话事件 request/header：

- 简单消息（如"翻译一下：hi"）→ "reasoningEffort": "off"
- 复杂任务（如"设计数据库表结构"）→ "reasoningEffort": "max"
- 多轮工具任务 → "reasoningEffort": "high"

License

MIT © 2026 changsong1986