m1khal3v/dsh-llm-key-rotation

dsh-llm-key-rotation

为 DeepSeek Harness 提供无缝的 API 密钥轮换。
遇到配额限制或 429 速率限制？该插件会换上你配置的下一个密钥并立即重试——无需重启、不丢失上下文，零中断。

⚡️ 亮点

- 🔄 对 Agent 和用户不可见：请求因配额/速率限制失败 → 插件热切换密钥 → 请求重试并无缝成功。
- 🎛 原生 Web UI：列出某个提供商可用的所有密钥，并直接在设置中切换轮换。
- 🧠 智能防空转：冷却机制可防止在所有密钥都耗尽时陷入无限循环。
- 🧼 零核心补丁：干净地接入 Harness 恢复瀑布流——安装安全，卸载也安全。

🛠 工作原理

┌─────────────────┐          429 / QUOTA / AUTH          ┌──────────────────────┐
│  Model Request  │ ───────────────────────────────────► │  llm-key-rotation    │
└─────────────────┘                                      └──────────┬───────────┘
▲                                                          │
│                  { kind: 'retry' }                       │ 1. Pick next key
│             (Adapter re-resolves key)                    │ 2. Hot-swap env ref
└──────────────────────────────────────────────────────────┘

1. 你照常使用当前激活的密钥继续工作。
2. 如果请求失败（QUOTA、RATE_LIMIT 或 AUTH），插件会从你配置的密钥链中加载下一个密钥。
3. 该轮次会使用新密钥重试，后续请求将继续使用可用的密钥。

🚀 快速开始

1. 安装插件

dsh plugin --profile web add @m1khal3v/dsh-llm-key-rotation

2. 通过 Web UI 配置

导航到 Settings → Plugins → Key Rotation：

1. 为你的目标提供商开启轮换。
2. 选择你的触发代码（默认：QUOTA、AUTH）。
3. 点击 Add key，粘贴你希望该提供商轮换使用的所有密钥，然后点击 Save。

（密钥会安全地保存到 Harness 凭据存储中）。

⚙️ 行为与须知
- 智能轮换窗口（300 秒）： 在连续失败期间，插件会依次向前遍历你配置的密钥。如果超过 5 分钟没有发生失败，轮换链会重置，再次从顶部开始。
- 与 dsh-llm-retry 的交互：
- QUOTA 和 AUTH 会立即轮换。
- RATE_LIMIT 会先由 dsh-llm-retry 处理（带退避）。如果要在遇到 429 错误时立即轮换，只需从你的 provider 的 retryableCodes 中移除 RATE_LIMIT 即可。
- 实时终端日志： 直接在 dsh 终端中实时查看轮换事件：
[llm-key-rotation] rotated provider="opencode-go" chain[0]→"OPENCODE_GO_API_KEY" (QUOTA)

（密钥值永远不会被记录——只记录 provider 名称、索引和错误码）。

🧑‍💻 开发

pnpm install
pnpm run verify    # typecheck + test
pnpm run build

📄 许可证

MIT