OmniRoute 插件怎么用?安装配置与使用全流程
如果你受够了在不同 AI 模型提供商之间来回切换、手动管理 API 密钥、盯着配额生怕超限的日子,那 OmniRoute 可能是你需要的那个"中间层"。简单说,它是一个 免费 MIT 协议的 AI 网关,把 350 多家提供商、1200 多个模型统一到一个端点后面。更爽的是,其中有 90 多家是免费层级。
它到底解决什么问题?
先别急着装,搞清楚痛点再动手。想象一下:你同时用着 Claude、GPT、Gemini、DeepSeek,每个都有独立的 SDK、独立的速率限制、独立的计费逻辑。堆叠免费层级更是噩梦——几十个 SDK、几十个限速规则,你根本不知道自己实际有多少额度。
OmniRoute 干的事情就是:把这一切收拢成一个端点。你只需要跟它对话,它帮你决定请求发给谁。它维护了一个免费层级目录,目前编目了 455 个免费层级条目,每月大约能提供 15.1 亿免费令牌(这个数字每两周重新审计,双向变动)。而且它支持 Claude Code、Codex、Cursor、OpenCode、Cline、Copilot 这些主流编码工具,装完就能接入现有工作流。
安装前提:你需要 dsh CLI 引擎
OmniRoute 插件运行在 DeepSeek Harness(简称 dsh)之上。所以第一步是确保你的环境里已经装好了 dsh CLI 引擎。如果你还没装,先去搞定它,这是跑插件的基础设施。
安装方式
在 dsh 环境中,安装 OmniRoute 插件的具体命令以仓库 README 为准。安装完成后,最爽的一点是:零配置,开箱即用。不需要你填任何 API 密钥,直接发请求就行:
curl http://localhost:20128/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"auto","messages":[{"role":"user","content":"你好!"}]}'
注意这个 model 参数用的是 auto。这是 OmniRoute 的默认智能路由模式——它根据你当前连接的提供商,自动构建一个虚拟模型链,实时评分选择最优后端。
如果你想指定某个免费后端,也可以直接调用,比如 oc/… 代表 OpenCode 免费,felo/… 代表 Felo。先试水,再升级到 auto 让它自动选。
核心功能:组合(Combo)与路由策略
OmniRoute 的旗舰功能叫"组合"(Combo),本质是自动跨模型路由的模型链。当配额耗尽、提供商故障或成本飙升时,它会自动切换到下一个健康模型。
auto 模式有几个变体,对应不同优化目标:
- auto:均衡默认,坚持上次表现好的提供商
- auto/coding:代码生成优先,重质量
- auto/fast:最低延迟优先
- auto/cheap:每令牌成本最低优先
- auto/offline:最大配额余量优先
- auto/smart:质量优先 + 10% 探索,尝试发现更好的模型
如果你不满足于默认行为,可以自己构建组合。OmniRoute 提供了 19 种路由策略,可以按步骤混合搭配。比如 priority 按顺序优先目标列表,weighted 按权重随机,round-robin 循环使用,least-used 选当前负载最低的,等等。具体每种策略的参数怎么配,以仓库 README 为准。
压缩与配额管理
OmniRoute 内置了 RTK + Caveman 压缩,据称能节省 15% 到 95% 的令牌。这是什么概念?如果你的 prompt 很长、上下文很重,这个压缩可能直接决定你的免费额度够不够用。
另外它支持配额感知的自动回退。也就是说,它知道每个提供商还剩多少配额(实时遥测),当某个提供商快没额度时,自动把请求转到还有余量的地方。这个功能在 /dashboard/free-tiers 页面上可视化展示,你可以看到每个池的实时状态。
常见问题
Q:我已有 API 密钥,OmniRoute 能用吗?
当然。它支持 350+ 提供商,包括 Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 等。你可以在配置里填自己的密钥,也可以直接用免费层级。
Q:支持哪些运行环境?
它提供了多种部署方式,包括 npm 版本、Docker Hub、Electron 下载,还支持桌面端和 PWA。具体选哪种看你习惯。
Q:隐私安全吗?
OmniRoute 是 MIT 协议的开源项目,由 450+ 贡献者共建。隐私相关的细节在文档里有专门章节,具体以仓库 README 为准。
Q:免费额度到底有多少?
它编目了 40 个循环池密钥下的 455 个免费层级条目,按 20 个有正数月度预算的池计算,每月约 15.1 亿免费令牌。注意这个数字是动态的,会随提供商政策变化。
小结
OmniRoute 适合那些在多个 AI 提供商之间反复横跳、想白嫖免费额度又不想手动管理的开发者。它的核心价值在于:一个端点、自动路由、配额感知、免费目录。装好 dsh 后,安装插件、设置 auto、开始用,就这么简单。
详细的安装命令和中文 README 在 dsh 插件站点上都有,去看看吧。