智能模型路由infosave2007/cortiq-router

Cortiq Router

为 DeepSeek Harness 打造的智能 LLM 请求路由器。
每条提示词先按任务类型与难度分类，再交给最合适的模型作答。

English · Русский ·

npm
license

它做什么

你不再需要手动挑模型。插件读取每条提示词，向
allaigate 语义路由器询问它属于哪类任务、有多难，
然后按你的规则把调用发给对应的模型。

| 你的提示词 | 路由器的判断 | 由谁作答 |
| --- | --- | --- |
| 「你好，最近怎么样？」 | chitchat，低 | 快速、便宜的模型 |
| 「Translate to French: Hello world」 | translation，低 | 快速、便宜的模型 |
| 「写一行 Python 反转字符串」 | code，低 | 快速、便宜的模型 |
| 「用 Rust 设计无锁 MPMC 队列并证明线性一致性」 | code，高 | 你最强的模型 |

简单的活不再按高价付费，难的活也不会落到扛不住的模型手里。

安装

dsh plugin --profile web add cortiq-dsh-llm-router

没有全局 dsh？可以用 npx -p @deepseek-ai/dsh dsh plugin --profile web add cortiq-dsh-llm-router。

一个前提。 路由器只在其他提供商插件已经提供的模型中挑选——llm-deepseek、
llm-pi-ai 或任何已注册的提供商。请至少配置其中一个：本插件从不直接访问模型
厂商，它只决定由谁来回答。

快速开始

1. 获取密钥。 在 allaigate.com 注册并复制 cortiq_… 密钥。
2. 保存密钥。 在 Harness 中：Settings → Models → Cortiq Router，粘贴密钥。
也可以用环境变量：export CORTIQ_ROUTER_KEY=cortiq_…
3. 在聊天的模型选择器中选择 Cortiq Router · Auto。

配置到此结束。默认规则面向 DeepSeek 系列模型；如果你的模型 id 不同，请修改路由表
（见路由规则）。

工作原理

你的提示词
│
▼
┌──────────────────────────────┐
│ 1. 文本提取                  │  默认只取最后一条用户消息，
└───────────┬──────────────────┘  其余对话不会离开本机
│  POST /v1/route
▼
┌──────────────────────────────┐
│ 2. 语义路由器                │  task = code，复杂度 = 0.78 → high
└───────────┬──────────────────┘  router.allaigate.com
│
▼
┌──────────────────────────────┐
│ 3. 你的路由表                │  code @ high → ["强力模型", …]
└───────────┬──────────────────┘  这是一条有序候选链，而非单一模型
│
▼
┌──────────────────────────────┐
│ 4. 由持有该模型的提供商作答  │  llm-deepseek、llm-pi-ai …
│                              │  数据流原样返回
└──────────────────────────────┘

任何一环都不是单点故障。 没有密钥、路由器不可达、请求超时——调用照样发出，
只是走兜底模型。若某个候选模型的提供商拒绝服务（缺少凭据、没有该模型），会自动
跳过并由下一个候选作答。只有当某个提供商已经开始输出时，本次调用才固定在它身上。

模型选择器中的条目

四个条目都会执行路由。后三个可为该会话直接锁定策略，无需进入设置：

| 条目 | 行为 |
| --- | --- |
| Auto | 使用设置中的策略档位 |
| Auto · cost saver | 优先选择候选链中便宜的一端 |
| Auto · balanced | 折中 |
| Auto · quality first | 更早升级到强力模型 |

路由规则

两层规则，按顺序生效：先看任务专属规则，再看该难度档的候选链。

llm-cortiq-router:
low / medium / high 在路由器 0…1 评分上的分界
complexityBands:
low: 0.35
medium: 0.65

各难度档的候选链——按顺序尝试
globalTiers:
low:    [deepseek-v4-flash]
medium: [deepseek-v4-pro]
high:   [deepseek-v4-pro]

任务专属覆盖，优先于上面的候选链
taskRules:
code:
low:  [deepseek-v4-flash]
high: [claude-opus-5]
translation: [deepseek-v4-flash]

最后兜底：路由器不可达、未付费，或没有其他已注册模型
defaultModel: deepseek-v4-flash

请填写你的提供商实际公布的模型 id。 OpenRouter 把 DeepSeek 模型称作
deepseek/deepseek-v4-flash，而 llm-deepseek 对同一模型的称呼是
deepseek-v4-flash。不带前缀的 id 会在所有已注册提供商的目录中查找；若要精确指定
路由，请写成 provider:model，例如 openrouter:deepseek/deepseek-v4-pro。

设置项

| 设置 | 默认值 | 作用 |
| --- | --- | --- |
| apiKeyEnv | CORTIQ_ROUTER_KEY | 存放 allaigate 密钥的凭据名 |
| routerUrl | https://router.allaigate.com | 分类服务地址；可指向自建实例 |
| routerProfile | balanced | cost-saver / balanced / quality-first |
| textStrategy | last_user | 送去分类的内容：最后一条用户消息、加上系统提示，或整段对话 |
| maxChars | 4000 | 送往分类服务的字符数上限 |
| timeoutMs | 15000 | 疑难提示会升级到 oracle（约 10 秒）；超时后调用走兜底模型 |
| complexityBands | 0.35 / 0.65 | low / medium / high 的分界 |
| globalTiers、taskRules、defaultModel | 见上文 | 由哪个模型作答 |
| language | auto | 插件文案语言：en、ru、zh、de、fr、es、tr |
| echoRouting | true | 记录每次决策：任务、档位、评分、选中的提供商与模型 |

自建分类服务

把 routerUrl 指向你自己的部署，提示词就不会离开你的基础设施。该端点需要通过
Node 能接受的 TLS 提供 POST /v1/route：私有 CA 可以用 NODE_EXTRA_CA_CERTS
指定，自签名证书则不行（Node 的 fetch 没有按请求关闭校验的开关）。

相关链接

- npm： cortiq-dsh-llm-router
- 插件文档： packages/dsh-llm-cortiq-router
（English · Русский）
- 更新日志： CHANGELOG.md
- 插件目录： DSH 1024Store
- 获取密钥： allaigate.com

许可证

MIT