模型路由锁定d3vmeh/dsh-model-pin

dsh-model-pin

一个 DeepSeek Harness 插件，专为那些承受不起模型轮盘赌的机器而设计：将每个模型请求限制在按提供商划分的允许集合内，将其余请求重定向到回退模型（或直接拒绝），并在任何请求会导致 llama.cpp 路由器重新加载模型时发出警告。

它解决的问题

dsh 允许每个聊天选择自己的模型，而后台辅助程序还可能请求另一个模型。在一台只能保持加载一个本地模型的机器上，每个杂散的请求要么失败，要么驱逐已加载的模型：数分钟的重新加载，提示缓存丢失（讨论 #3199）。更糟糕的是，子代理继承的是其父会话被创建时所使用的模型，而不是它当前使用的模型，因此它们会悄无声息地落到过时或错误的路由上（#455、#1581）。

dsh-model-pin 在 dsh 自身的解析层（agent/request 瀑布流，其文档称返回替代项为“受认可的切换路径”）强制执行允许列表。来自每个会话的每个请求都会在步骤边界处根据该列表进行解析：子代理、重试，以及一旦固定路由被记录后的会话标题和压缩调用。持久化的会话数据永远不会被重写。

安装

dsh plugin --profile web add dsh-model-pin

然后在 ~/.dsh/profiles/web/cordis.patch.yml 中：

- id: model-pin
config:
providers:
llamacpp:
allow: [qwen3.8-q4-long, qwen3.8-fast]   # a one-entry list = single-model mode
fallback: qwen3.8-q4-long                # default: the first allowed entry
action: redirect                          # redirect (default) | reject
warnOnSwitch: true

未配置的提供商会保持不变。

它看起来是什么样

model-pin: llamacpp session=059a680f turn 3 redirecting qwen3.8 -> qwen3.8-q4-long (not in allow)
model-pin: llamacpp model switch qwen3.8-q4-long -> qwen3.8-fast (a --models-max 1 router reloads now; the previous model's prompt cache is lost)

使用 action: reject 时，被禁止的请求会以一条清晰的消息使该轮失败（model-pin: model "x" is not in the allowed set for provider "llamacpp" (allowed: ...)），并且 dsh 的重试永远不会在其上循环。

你应该知道的事

- Web 模型选择器并不知道这个固定设置：它可能继续显示你点击的模型，而每个请求实际上都在回退模型上运行。终端中的重定向行（或者如果安装了 dsh-logbook，则是 /logs）会显示实际运行的内容。
- 固定设置对选择器拥有最终决定权，因为它在配置文件加载时注册，早于任何代理存在（在 cordis 中，最先注册的瀑布流监听器位于最外层）。另一个在此插件之前加载的根插件仍然可以覆盖它。
- 切换警告仅为观察性质；它无法阻止重新加载。如果你希望完全消除重新加载，请将其与单条目允许列表配合使用。
- 跨提供商重定向不在 v1 的范围内：对你未配置的提供商的请求会直接通过，包括卡在已删除提供商上的子代理。
- 相关工作：dsh-model-switch 是相反的个性：一个精致的按角色划分的模型路由器，带有 Web UI 面板，刻意不做全局强制。dsh-model-pin 以配置为先，对无头环境友好，关注的是限制，而不是路由。

许可证

MIT