智能模型路由 infosave2007/cortiq-router

Cortiq Router

为 DeepSeek Harness 打造的智能 LLM 请求路由器。
每条提示词先按任务类型与难度分类，再交给最合适的模型作答。

English · Русский ·

npm
license

它做什么

你不再需要手动挑模型。插件读取每条提示词，向 allaigate 语义路由器询问它属于哪类任务、有多难，然后按你的规则把调用发给对应的模型。

| 你的提示词 | 路由器的判断 | 由谁作答 |
| 「你好，最近怎么样？」 | chitchat，低 | 快速、便宜的模型 |
| 「Translate to French: Hello world」 | translation，低 | 快速、便宜的模型 |
| 「写一行 Python 反转字符串」 | code，低 | 快速、便宜的模型 |
| 「用 Rust 设计无锁 MPMC 队列并证明线性一致性」 | code，高 | 你最强的模型 |

简单的活不再按高价付费，难的活也不会落到扛不住的模型手里。

安装

dsh plugin --profile web add cortiq-dsh-llm-router

没有全局 dsh？可以用 npx -p @deepseek-ai/dsh dsh plugin --profile web add cortiq-dsh-llm-router。

一个前提。 路由器只在其他提供商插件已经提供的模型中挑选——llm-deepseek、 llm-pi-ai 或任何已注册的提供商。请至少配置其中一个：本插件从不直接访问模型厂商，它只决定由谁来回答。

快速开始

1. 获取密钥。 在 allaigate.com 注册并复制 cortiq_… 密钥。
2. 保存密钥。 在 Harness 中：Settings → Models → Cortiq Router，粘贴密钥。
也可以用环境变量：export CORTIQ_ROUTER_KEY=cortiq_…
3. 在聊天的模型选择器中选择 Cortiq Router · Auto。

配置到此结束。默认规则面向 DeepSeek 系列模型；如果你的模型 id 不同，请修改路由表（见路由规则）。

工作原理

你的提示词 │ ▼ ┌──────────────────────────────┐ │ 1. 文本提取 │ 默认只取最后一条用户消息， └───────────┬──────────────────┘ 其余对话不会离开本机 │ POST /v1/route ▼ ┌──────────────────────────────┐ │ 2. 语义路由器 │ task = code，复杂度 = 0.78 → high └───────────┬──────────────────┘ router.allaigate.com │ ▼ ┌──────────────────────────────┐ │ 3. 你的路由表 │ code @ high → ["强力模型", …] └───────────┬──────────────────┘ 这是一条有序候选链，而非单一模型 │ ▼ ┌──────────────────────────────┐ │ 4. 由持有该模型的提供商作答 │ llm-deepseek、llm-pi-ai …
│ │ 数据流原样返回 └──────────────────────────────┘

任何一环都不是单点故障。 没有密钥、路由器不可达、请求超时——调用照样发出，只是走兜底模型。若某个候选模型的提供商拒绝服务（缺少凭据、没有该模型），会自动跳过并由下一个候选作答。只有当某个提供商已经开始输出时，本次调用才固定在它身上。

模型选择器中的条目

四个条目都会执行路由。后三个可为该会话直接锁定策略，无需进入设置：

| 条目 | 行为 |
| Auto | 使用设置中的策略档位 |
| Auto · cost saver | 优先选择候选链中便宜的一端 |
| Auto · balanced | 折中 |
| Auto · quality first | 更早升级到强力模型 |

路由规则

两层规则，按顺序生效：先看任务专属规则，再看该难度档的候选链。

llm-cortiq-router:
low / medium / high 在路由器 0…1 评分上的分界 complexityBands: low: 0.35 medium: 0.65

各难度档的候选链——按顺序尝试 globalTiers:
low: [deepseek-v4-flash]
medium: [deepseek-v4-pro]
high: [deepseek-v4-pro]

任务专属覆盖，优先于上面的候选链 taskRules: code:
low: [deepseek-v4-flash]
high: [claude-opus-5]
translation: [deepseek-v4-flash]

最后兜底：路由器不可达、未付费，或没有其他已注册模型 defaultModel: deepseek-v4-flash

请填写你的提供商实际公布的模型 id。 OpenRouter 把 DeepSeek 模型称作 deepseek/deepseek-v4-flash，而 llm-deepseek 对同一模型的称呼是 deepseek-v4-flash。不带前缀的 id 会在所有已注册提供商的目录中查找；若要精确指定路由，请写成 provider:model，例如 openrouter:deepseek/deepseek-v4-pro。

设置项

| 设置 | 默认值 | 作用 |
| apiKeyEnv | CORTIQ_ROUTER_KEY | 存放 allaigate 密钥的凭据名 |
| routerUrl | https://router.allaigate.com | 分类服务地址；可指向自建实例 |
| routerProfile | balanced | cost-saver / balanced / quality-first |
| textStrategy | last_user | 送去分类的内容：最后一条用户消息、加上系统提示，或整段对话 |
| maxChars | 4000 | 送往分类服务的字符数上限 |
| timeoutMs | 15000 | 疑难提示会升级到 oracle（约 10 秒）；超时后调用走兜底模型 |
| complexityBands | 0.35 / 0.65 | low / medium / high 的分界 |
| globalTiers、taskRules、defaultModel | 见上文 | 由哪个模型作答 |
| language | auto | 插件文案语言：en、ru、zh、de、fr、es、tr |
| echoRouting | true | 记录每次决策：任务、档位、评分、选中的提供商与模型 |

自建分类服务

把 routerUrl 指向你自己的部署，提示词就不会离开你的基础设施。该端点需要通过 Node 能接受的 TLS 提供 POST /v1/route：私有 CA 可以用 NODE_EXTRA_CA_CERTS 指定，自签名证书则不行（Node 的 fetch 没有按请求关闭校验的开关）。

相关链接

- npm： cortiq-dsh-llm-router
- 插件文档： packages/dsh-llm-cortiq-router （English · Русский）
- 更新日志： CHANGELOG.md
- 插件目录： DSH 1024Store
- 获取密钥： allaigate.com

许可证

MIT