本地模型路由 PerryLink/dsh-local-ai

🤖 dsh-local-ai

- 1024 store channel：先执行一次 npm i -g dsh1024，再执行 dsh1024 plugin --profile web add dsh-local-ai（会计入 deepseek1024.com 的安装排名）。

dshfind

为 DeepSeek Harness 接入本地模型（Ollama）。

发现、拉取、删除、查看本地模型；按任务类型或关键词把请求路由到本地模型，失败时自动回退到云端；用 /ollama 一条命令查看整体状态。

官方仓库。 这里是 dsh-local-ai 唯一的官方仓库，由 PerryLink 维护。其他账号下的同名仓库与本项目无关。

DSH Market
dsh-doctor

English · 简体中文 · Español · Português · हिन्दी

dsh plugin --profile <name> add dsh-local-ai

📖 生态知识库 —— 实测数据，不是营销话术：插件开发指南 · 插件选型数据 · 维护标准。

安装与卸载

- git 渠道（最新的 main）：dsh plugin --profile web add github:PerryLink/dsh-local-ai —— prepare 脚本只用生产依赖构建。
- npm 渠道（已发布的版本）：dsh plugin --profile web add dsh-local-ai。
- tarball 渠道：在本仓库执行 pnpm pack，再执行 dsh plugin --profile web add ./dsh-local-ai-<version>.tgz。
- 卸载：dsh plugin --profile web remove dsh-local-ai（或从配置档补丁里删掉对应行）。
如果 pnpm 对这个包报 ERR_PNPM_IGNORED_BUILDS，在 pnpm-workspace.yaml 里加上 allowBuilds: { esbuild: true } —— dsh 命令行会打印出这段确切的片段。

⭐ 如果它帮到了你

这个插件是 DSH 插件家族的一员（95 个，全部 Apache-2.0）。如果你在用，给个 star —— 它不会解锁任何功能，但会让下一个人在搜索里更容易找到它。

English: part of a 95 plugin family for DeepSeek Harness. If it is useful, a star helps the next person find it — nothing is gated behind it.

dsh-local-ai 是什么？

DeepSeek Harness 的本地模型（Ollama）集成。

发现、拉取、删除、查看本地模型；按任务类型或关键词把请求路由到本地模型，失败时自动回退到云端；用 /ollama 一眼看清整体状态。

dsh-local-ai 的工作流示意图：调用 → 插件 → 结果。

工作流概览：调用 → 插件 → 结果。下面的示例用的都是真实的命令接口。

兼容性

| 层面 | 状态 |
| Harness | DeepSeek Harness dsh-v0.2.1-alpha.1（2026-10-04 验证：三套类型检查基准（已安装、CI、检出）+ 142 个测试 + 自包含/产物门禁；已适配 0.1.7 的 content-block 联合类型 —— 工具结果是一等 tool 角色消息，旧日志里的 tool-result 包装仍可读取）。peer 范围覆盖所有受支持版本线：>=0.1.2-rc.1 <0.2.0 \|\| >=0.1.5-alpha.1 <0.2.0 \|\| >=0.1.6-0 <0.2.0 \|\| >=0.1.7-0 <0.2.0 \|\| >=0.2.0-0 <0.3.0 \|\| >=0.2.1-0 <0.3.0；开发/测试固定为 0.2.0-rc.2。 |
| Node | ^22.19.0 \|\| >=24.0.0 |
| 后端 | Ollama（本地 HTTP API + 命令行探测） |
| 模型 | 纯文本路由（inputModalities: ['text']）；支持工具调用与工具结果 |

你能得到什么

dsh-local-ai 让 Ollama 成为 DeepSeek Harness 里的一等本地服务商：

- 发现与管理 —— ollama_list（已安装模型、运行中模型、磁盘占用）、ollama_show（参数量、量化方式、上下文长度）、ollama_pull、ollama_remove。
- 健康检查 —— 进程存活（通过 ollama 命令行）和 API 响应（通过 /api/version），作为两个独立信号上报。
- 官方适配器 —— ollama 服务商路由通过 ctx.llm.registerAdapter（LlmAdapter）注册，模型映射可配置，temperature / max-tokens / stop 会做转换。
- OpenAI 兼容后端 —— LM Studio、vLLM、llama.cpp --server 各自通过同一个 LlmAdapter 接缝注册为独立的 openai:<name> 服务商，复用同一个 OpenAI /v1/chat/completions 适配器（纯文本路由）。
- 本地路由 —— model_route 规则按任务类型（purpose）、不区分大小写的关键词或 always 把请求路由到本地模型；本地路由在产出内容前失败时，自动回退到云端。
- /ollama 命令 —— 一眼看清整体状态：模型、磁盘占用、健康、建议。
- 零依赖，HTTP 优先 —— 所有功能都通过 Ollama 的 HTTP API 通信（命令行只用于进程探测）；不打包任何模型文件。

request (loop)
│ llm/stream waterfall
├─ rule matches? ──▶ route to ollama ──▶ Ollama /api/chat (NDJSON stream)
│ └─▶ route to openai:<name> ─▶ /v1/chat/completions (SSE)
│ └─ fails first ─▶ fall back to cloud (next())
└─ no match ──▶ cloud provider
tools ──▶ /api/tags · /api/ps · /api/show · /api/pull · /api/delete health ──▶ /api/version (API) + ollama list (process)

快速开始

dsh plugin --profile web add github:PerryLink/dsh-local-ai

1. install the bundle into your profile
dsh plugin --profile web add github:PerryLink/dsh-local-ai

or from npm (published releases)
dsh plugin --profile web add dsh-local-ai

2. configure routing in your profile patch (cordis.yml) and restart
dsh --profile web

最小路由配置（这条规则在 cordis.patch.yml 里默认被注释掉）：

- insert:
- id: dsh-local-ai
name: dsh-local-ai
config:
route:
- model: llama3.2
keywords: ["confidential", "offline"]

然后确认这一行已挂载：

dsh --profile web --dump-config | grep -A2 'id: dsh-local-ai'

示例

下面是插件的真实入口；安装一次，然后调用其中一个。

详细示例

命令

~~~sh
ollama_list

输入

~~~json
{}

输出

~~~text
1 local model(s), 100 B on disk
- llama3.2 (3B) — 100 B

来源：plugins/dsh-local-ai/src/index.ts:83-90 (renderer); fixture/assertion at plugins/dsh-local-ai/test/index.spec.ts:31-35,68-82

失败分支

输入

~~~text
{} (baseURL http://127.0.0.1:11434; nothing listening; no ollama binary on PATH)

输出

~~~text
{
"api": {
"ok": false,
"error": "connection refused"
},
"process": {
"present": false,
"error": "\"ollama\" not found: subprocess-local: command \"ollama\" was not found on PATH"
}
}

来源：plugins/dsh-local-ai/src/health.ts:52-66,79-92; plugins/dsh-local-ai/test/health.spec.ts:23-28,52-57

简要示例

- ollama_show
- ollama_pull

配置

所有可调项都是 Schemastery Config 字段（可在 cordis.yml 中修改）。按 id 定向覆盖会替换整行 —— 需要哪些键就全部重写。cordis.patch.yml 里逐键写了说明。

| 键 | 默认值 | 含义 |
| baseURL | http://127.0.0.1:11434 | Ollama HTTP API 的基础 URL；请求时拼接 /api/ 路径 |
| requestTimeoutMs | 30000 | 单次请求的 HTTP 超时（毫秒） |
| graceMs | 15000 | 健康检查命令行探测时，子进程终止的宽限时间 |
| defaultContextWindow | 8192 | 模型没有精确值时使用的上下文容量 |
| maxTokens | 4096 | 模型没有精确值时，单次请求的输出上限 |
| temperature | （无）* | 默认采样温度（0..2）；省略则沿用服务商默认值 |
| vision | true | 模型报告支持视觉时，声明并序列化图像支持；设为 false 则保持纯文本路由 |
| visionCacheTtlMs | 30000 | /api/show 能力探测结果的缓存毫秒数（0 关闭缓存；拉取或删除会使对应模型的缓存失效） |
| models | [] | Harness 可见模型 → Ollama 模型映射 |
| models[].name | （必填） | Harness 可见模型名（GenerateOptions.model） |
| models[].model | = name | Ollama 模型 id |
| models[].contextWindow | （无） | 单模型上下文容量 |
| models[].maxTokens | （无） | 单模型输出上限 |
| models[].temperature | （无） | 单模型采样温度 |
| backends | [] | OpenAI 兼容的本地后端（LM Studio / vLLM / llama.cpp） |
| backends[].name | （必填） | 后端名称；注册服务商 id openai:<name> |
| backends[].baseURL | （必填） | 后端基础 URL，需包含 /v1，例如 http://127.0.0.1:1234/v1 |
| backends[].apiKey | （无） | 可选 bearer API key（多数本地服务器留空） |
| backends[].models | [] | Harness 可见模型 → 后端模型映射 |
| backends[].maxTokens | 4096 | 单后端输出上限，模型没有精确值时使用 |
| backends[].temperature | （无） | 单后端采样温度 |
| route | [] | 本地模型路由规则（先匹配者生效） |
| route[].model | （必填） | 目标本地模型名 |
| route[].provider | ollama | 目标服务商 id：ollama 或 openai:<name> |
| route[].purpose | （无） | 任务类型匹配：compaction / session-title |
| route[].keywords | [] | 请求关键词，不区分大小写 |
| route[].always | false | 把所有符合条件的请求都路由到该模型 |

工具与界面

| 界面 | 类型 | 作用 |
| ollama_list | 工具 | 列出已安装模型、运行中模型和磁盘占用 |
| ollama_show | 工具 | 显示参数规模、量化方式、上下文长度、模型家族、格式 |
| ollama_pull | 工具 | 拉取（下载）模型 |
| ollama_remove | 工具 | 删除模型 |
| ollama_health | 工具 | 进程存活状态 + API 响应情况 |
| /ollama | 命令 | 一次性状态概览（模型 + 健康 + 建议） |

使用公共宿主服务 ctx.llm（registerAdapter）、ctx.tools、ctx.subprocess（命令行探测）和 ctx.commands。默认不注册 llm/stream 短路——除非规则命中，否则路由监听器直接放行（next()）。

权限与数据

- 权限：network:outbound，指向你配置的 Ollama 端点；不使用原生代码，不访问文件系统，不做存储。
- 数据：展示给模型或用户的每条模型列表/详情、健康事实和错误消息，都会先做净化处理（去掉 endpoint 里的 userinfo 和 secret 查询参数，剥离控制字符，限制长度），然后再显示。工具和命令的结果由 harness 自身的工具/命令接缝记录日志。
- 凭据：插件不存储、也不读取任何凭据。它只向你配置的 endpoint 发起 HTTP 请求，另外执行本地 ollama list 进程探测。

安全边界

- 默认不改路由 —— 除非你主动开启，route 列表为空；请求只有通过显式规则或显式选择 ollama 服务商，才会到达本地模型。
- 先净化再显示 —— endpoint 地址和本地路径在进入工具输出、/ollama 命令或错误消息之前，都会先做净化。
- 不捆绑任何模型 —— 下载和存储由 Ollama 自己负责；包里不带任何模型。
- 失败要响，失败要收 —— 配置无效会让挂载失败；本地路由在产出内容之前失败，会回退到云端（next()），所以 Ollama 挂了也不会把对话搞死。有一处例外： 携带 IMAGE_OFFLOAD_REQUIRED 的失败会直接重新抛出，不在云端重试 —— 这个错误码是官方卸载回路在要求同一条本地路由丢弃保留的图片，回退会跳过这个回路，同时把只该走本地的请求悄悄发给远程服务商。
- 模型可见 ⟺ 有日志 —— 路由只改变由哪个服务商来服务请求（助手消息会带着 ollama 来源记录日志）；不会凭空造出新的模型可见输入。

已知限制

- npm 0.2.0-rc.2 —— 开发和测试基于 @deepseek-ai/dsh@0.2.0-rc.2；更新的 harness 基线预期可用，但由每月的兼容工作流验证。
- 模型自报支持视觉时才启用 —— /api/show 能力里包含 vision 的模型，会声明 inputModalities: ["text","image"]，并在用户消息上携带 base64 图片负载（用 vision: false 关闭）；纯文本模型仍然拒绝图片内容（UNSUPPORTED_CONTENT）。
- 流中途回退 —— 本地路由一旦开始产出内容，之后的失败会原样转发（不撤回）；只有首个 token 之前的失败才回退到云端。

开发

pnpm install # node ^22.19 || >=24
pnpm run typecheck # tsc: src + tests against the published 0.2.0-rc.2 types
pnpm run typecheck:ci # strict tsc against published rc.2 types (skipLibCheck off)
pnpm test # vitest: real Context/LlmRuntime/ToolRuntime/CommandRuntime/subprocess seams
pnpm run test:coverage # coverage gate (90/80/90/90)
pnpm run build # tsdown bundle + tsc declarations (lib/)
pnpm run verify:self-contained # dependency specs resolve from the registry
pnpm run verify:artifacts # built ESM face + bundle patch present
node scripts/check-readme-sync.mjs # five-language README sync gate
node scripts/check-endpoints.mjs # M3 endpoint-liveness probe (Ollama /api/version)
pnpm pack # the published tarball

与其他 DSH 插件的互操作性

已针对 DSH 0.2.0-rc.2（本 README 所适配的运行时）以及 2026-10-05 调研的高星插件集做过验证。

本插件不会干扰其他插件，包括广泛安装的高星插件：

- 无工具名冲突。 每个工具都带命名空间；不注册任何由内置工具或其他插件占用的裸名称。
- 无服务键冲突。 它根本不提供服务键，因此不可能在服务键上冲突。
- 无插槽冲突。 它不注册客户端插槽键，因此不会争抢 shadows-shipped-ui 的席位。
- 无 HTTP 路由冲突。 它不注册 webServer 前缀。
- 无补丁层冲突。 打包补丁只 insert 自己那一行；从不覆盖内置行的 config。
- 无全局改动。 它不改原型、不改写 process.env、不替换全局 fetch 调度器。

共享事件监听器在设计上互不干扰。 它用 ctx.on() 观察对顺序敏感的事件 llm/stream —— 这是 Cordis 的广播注册方式，每个监听器都会执行，谁也无法饿死别人。这里每个监听器都通过 next() 委托，所以调用链永远不会被短路；改动施加在 next() 产出的值上，而不是顶替它返回：
- llm/stream —— dsh-routing-suite（7000★）也在用。

静态证据：dsh-plugin-doctor 的 K10–K13 在本仓库的每项检查上都报告 pass。

主题

dsh、dsh-plugin、deepseek-harness、deepseek、cordis、ollama、local-llm、local-models、offline、privacy、model-routing

贡献者

- @PerryLink —— 创建者与维护者：适配器、路由、工具、健康检查、净化处理，以及五种语言的文档。
- @LABEST-IA —— 工具调用 CallId 修复（PR #2），以及工具调用插槽与视觉支持报告（issue #1、#3、#5）。

PerryLink DSH 插件家族

本项目属于 PerryLink 的 DeepSeek Harness 插件家族。下方名册默认折叠，好让每个 README 的首屏都保持简短；展开即可看到每一行及其状态。

展开全部插件

| 插件 | 状态 |
| dsh-aqua-input-check | |
| dsh-archive-check | |
| dsh-auto-review | |
| dsh-autotier | |
| dsh-bid-ca-precheck | |
| dsh-bid-qual-check | |
| dsh-cert-mcp | |
| dsh-checkpoint-rewind | |
| dsh-click | |
| dsh-composer-history | |
| dsh-contract-stance | |
| dsh-customs-doc-check | |
| dsh-data-quality | |
| dsh-demurrage-ledger | |
| dsh-doublecheck | |
| dsh-drill-script-check | |
| dsh-eia-guide-check | |
| dsh-emergency-plan | |
| dsh-essay-rubric-check | |
| dsh-evidence-check | |
| dsh-export-ctl-check | |
| dsh-fast | |
| dsh-fmea-table-check | |
| dsh-forecast-penalty | |
| dsh-fund-research | |
| dsh-github | |
| dsh-gongwen-flow-check | |
| dsh-gongwen-word-check | |
| dsh-guard-plan-qc | |
| dsh-hazchem-check | |
| dsh-hazplan-check | |
| dsh-hidden-risk-map | |
| dsh-hs-classify | |
| dsh-icd-rule-check | |
| dsh-industry-research | |
| dsh-lawcite-adapter | |
| dsh-laya | |
| dsh-lc-doc-check | |
| dsh-learning-gap-check | |
| dsh-library | |
| dsh-local-ai | |
| dsh-lsp-actions | |
| dsh-mask | |
| dsh-mcp-panel | |
| dsh-medrec-qc | |
| dsh-memento | |
| dsh-nsfc-form-check | |
| dsh-nurse-record-check | |
| dsh-observe | |
| dsh-origin-rvc-check | |
| dsh-ota-review-check | |
| dsh-output-styles | |
| dsh-paper-doc-adapter | |
| dsh-permission-rules | |
| dsh-permit-report-check | |
| dsh-pipeline-check | |
| dsh-pleading-draft | |
| dsh-plugin-doctor | |
| dsh-plugin-guide | |
| dsh-plugin-kit | |
| dsh-plugin-upgrade | |
| dsh-policy-brief-draft | |
| dsh-power-loss-split | |
| dsh-power-ticket-check | |
| dsh-ppap-check | |
| dsh-protest-deadline | |
| dsh-railway-window | |
| dsh-repair-order-qc | |
| dsh-research-report | |
| dsh-review-reply-check | |
| dsh-rulefile-check | |
| dsh-safety-brief-check | |
| dsh-score | |
| dsh-session-sync | |
| dsh-site-log-check | |
| dsh-skill-pack-security | |
| dsh-soe-decision-check | |
| dsh-soilwater-check | |
| dsh-sop-sync-check | |
| dsh-spc-gbt-adapter | |
| dsh-talk | |
| dsh-tender-extract | |
| dsh-tender-matrix | |
| dsh-test-drive | |
| dsh-ticktick | |
| dsh-translate | |
| dsh-warranty-calc | |
| dsh-budget | 🧊 已冻结 —— 见仓库 README |
| dsh-claude-move | 🧊 已冻结 —— 见仓库 README |
| dsh-defend | 🧊 已冻结 —— 见仓库 README |
| dsh-draw | 🧊 已冻结 —— 见仓库 README |
| dsh-reach | 🧊 已冻结 —— 见仓库 README |
| dsh-background-agents | 🚫 已退役 —— 见仓库 README |
| dsh-session-pin | 🚫 已退役 —— 见仓库 README |
| dsh-team-rooms | 🚫 已退役 —— 见仓库 README |

许可证

Apache License 2.0 © 2026 dsh-local-ai contributors