限流重试策略 Rinai-R/dsh-omp-retry

dsh-omp-retry

为 DeepSeek Harness 中的 HTTP 429 响应提供 OMP 风格的退避重试策略。

DSH 内置的 dsh-llm-retry 对所有瞬时失败只用一套有界指数策略。默认配置下是重试五次，间隔从 500 ms 到 10 s，所以预算耗尽时 TPM/RPM 窗口可能还没结束。OMP 对限流的处理不同：最多重试十次，每次至少等 30 秒，并接受服务商返回的 Retry-After，上限五分钟。

这个插件包加上上述限流行为，无需 fork DSH。它在 dsh-llm-retry 之前插入一个 agent/request-error 监听器，只接管 RATE_LIMIT；其余失败码仍交给内置执行器处理。

行为

- 每个失败步骤最多重试 10 次限流（可配置）。
- 延迟为 max(30 s, provider Retry-After)。
- 所需等待超过 5 分钟时，直接结束重试链，不再休眠。
- 每次安排重试都会追加持久化的 llm/retry / llm/retry-started 事件，所以常规重试 UI 和会话历史照常工作。
- 取消、回合结束、插件销毁都会中止当前等待。
- SERVER、TIMEOUT、TRANSPORT、EMPTY_RESPONSE 交给 dsh-llm-retry，沿用服务商自己的策略。
- CONTEXT_WINDOW_EXCEEDED、QUOTA、AUTH、INVALID_REQUEST 本插件永不重试。

安装

dsh plugin --profile desktop add github:Rinai-R/dsh-omp-retry

web 或自定义配置档请把 desktop 换成你的配置档名，然后重启 DSH。插件包会自行插入 omp-rate-limit-retry 行。

配置

默认值为 maxRetries: 10、floorMs: 30000、maxDelayMs: 300000。在配置档的 cordis.patch.yml 中覆盖该行：

- id: omp-rate-limit-retry
config:
maxRetries: 10
floorMs: 30000
maxDelayMs: 300000

maxRetries: 0 会禁用插件。插件的预算与服务商的 retryPolicy.maxRetries 相互独立：服务商保持默认的五次，限流仍能拿到十次尝试。

要让非 429 的失败快速重试，把服务商策略调到接近 OMP 的本地退避：

retryPolicy:
mode: normal
maxRetries: 10
retryableCodes:
- EMPTY_RESPONSE
- RATE_LIMIT
- SERVER
- TIMEOUT
- TRANSPORT
backoff:
initialDelayMs: 500
maxDelayMs: 8000
jitterRatio: 0.25

保留列表里的 RATE_LIMIT 是为了在移除本插件包时兜底；插件包启用期间，429 由它先接管。

兼容性

已在 DSH Desktop 0.2.1-rc.2 上测试。插件依赖：

- agent/request-error 瀑布流，
- llm-retry 会话投影（llmRetry），
- 内置重试执行器使用的 llm/retry 事件结构。

如果未来的 DSH 改动这些契约，插件可能需要更新；它会以失败关闭的方式处理，把请求交给下一个监听器。

开发

无需构建步骤，无运行时依赖：

npm test

限制

- 这不是 Ghostty，也不是通用重试框架：它只覆盖
- HTTP 429 限流。
- OMP 的模型/凭据回退链尚未实现。
- 服务商返回的 Retry-After 超过 maxDelayMs 时，不会等待到该时间。

许可证

MIT