AI 模型网关 tingly-dev/tingly-box

Tingly Box Web UI 演示

Tingly Box

快速开始 • 功能 • 集成 • 文档 • 问题反馈

Tingly Box 把任意智能体接到任意模型 —— 给你，也给你的整个团队，还自带一堆强化功能。

核心功能

* 任意智能体 ⇄ 任意模型
* AI 统一端点 —— 桥接任意服务商，双向翻译协议
* 智能体一键配置 —— Claude Code、OpenCode、Codex、Xcode 等
* Claude Code 配置档 —— 按场景切换模型
* API key 和 OAuth 都支持 —— 现有额度随处可用
* 智能路由 —— 按成本、速度或自定义策略，跨模型、跨 token 路由
* 团队 AI 管理
* 团队共享端点，模型规则集中管理
* 每位成员独立 key，数据按用户隔离
* 按成员统计用量
* 强化功能
* 护栏、MCP 网关、用量分析
* 图像 API —— 图像生成与编辑走同一网关，内置演练场
* 远程控制 —— 通过 Telegram、微信、企业微信、飞书、Lark、钉钉驱动智能体
* 生产可用
* VModel（虚拟模型）—— 用于测试、验证和基准测试
* Harness 驱动，协议、路由、客户端都稳
* UX 优先的可视化管理：服务商、模型、团队、远程机器人
* 快得离谱 —— 通常只增加 < 1ms 开销

预览

Tingly Box Web UI 演示

快速开始

安装

用 npm 全局安装（推荐）

npm install -g tingly-box@latest # --registry=<mirror> works here too

tb start # tb = tingly-box; runs in the background (--no-daemon for foreground)
tb open # open the web UI

update: reinstall, then restart to apply
npm install -g tingly-box@latest
tb restart

遇到问题，先看 tingly-box 的输出，或者提个 issue 求助。

用 npx 运行

One command: fetch, restart the server in the background, migrate and open the web UI
(a golang binary release; npx wraps the cli for convenience)
npx tingly-box@latest
或者用 -y 省事
npx -y tingly-box@latest

平台对应的二进制文件也从 npm 下载（不走 GitHub 下载），所以国内只需要一个 npm 镜像就够了（下面任选其一）
npx --registry=https://registry.npmmirror.com -y tingly-box@latest
npx --registry=https://mirrors.huaweicloud.com/repository/npm/ -y tingly-box@latest
npx --registry=http://mirrors.tencent.com/npm/ -y tingly-box@latest

安装 Node 和 NPX

MacOS & Linux
Install Node.js LTS via nvm
curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/master/install.sh | bash

Restart terminal or load nvm
source ~/.nvm/nvm.sh

Install Node.js LTS
nvm install --lts

Verify installation
node -v
npx -v

Windows
Powershell with Winget
winget install OpenJS.NodeJS.LTS

Restart terminal, then verify installation
node -v
npx -v

Or download and install Node.js LTS manually:
https://nodejs.org/en/download

用 Docker 安装（GitHub 源）

mkdir tingly-data
docker run -d \
--name tingly-box \
-p 12580:12580 \
-v pwd/tingly-data:/home/tingly/.tingly-box \
ghcr.io/tingly-dev/tingly-box

Docker Compose（隔离环境推荐）、自建镜像、故障排查，见 Docker 指南。

集成指南

智能体集成 - Claude Code / Claude Desktop / OpenCode / Codex / Xcode / VSCode / OpenClaw

- Claude Code（支持一键配置）
- OpenCode（支持一键配置）
- Xcode（需要手动配置）
- ……

任何应用都能直接接入。

应用内提供了详细配置指南

智能体集成演示

团队 - 共享模型部署

给整个团队一个端点，背后是集中管理的模型规则。每位成员拿到专属 Team Key，用量按用户分别统计。

1. 打开 Web UI，比如 http://localhost:12580
2. 进入 Team，配置模型规则，再通过 Team Keys 分发密钥
3. 在 Dashboard → Team usage 查看每位用户的消耗

团队演示

团队用量演示

图像 API

图像生成和编辑也走同一个网关。把任意兼容 OpenAI 的图像客户端指向 http://localhost:12580/tingly/imagegen，再用规则挑选上游图像模型，和其他场景一样。可以直接在 Image → Playground 里试提示词。

图像 Playground 演示

图像 API 演示

DeepSeek 最佳兼容 DeepSeek 针对主流智能体工作流做了优化，兼容多种协议适配器、智能体客户端、扩展上下文、视觉、网页搜索和缓存优化。

| 模块 | 状态 | 解决的问题 |
| 模型列表 | ✅ 支持 | 实时保持官方模型列表最新 |
| 协议适配 | ✅ 支持 | 支持官方 Anthropic/OpenAI API，双向转换 |
| 推理能力 | ✅ 支持 | 兼容 Thinking 工作流 |
| 缓存命中优化 | ✅ 支持 | 提升 DeepSeek 请求的缓存命中率 |
| 视觉代理 | ✅ 支持 | 让 DeepSeek 能理解并处理图片 |
| 网页搜索 | ✅ 支持 | 通过 Anthropic 端点调用官方 Web 工具 |
| 1M 上下文窗口 | ✅ 支持 | 一键配置 1M 上下文 |
| Codex 适配 | ✅ 支持 | 确保兼容主流智能体工作流 |
| Claude Code / Desktop 适配 | ✅ 支持 | 确保兼容主流智能体工作流 |

支持一键配置的应用可直接使用。需要手动配置的应用，内置了详细的应用内配置指南。

任何兼容的应用都开箱即用。

每个应用内都有详细的配置指南。

通过 IM 机器人远程控制智能体 - TG / 钉钉 / 飞书 / Lark / 微信 / 企业微信

Tingly Box 现已支持通过主流 IM 平台远程控制。无需直接访问服务器，即可远程与你的 AI 智能体交互。

支持的平台

- ✅ Telegram
- ✅ 钉钉
- ✅ 飞书
- ✅ Lark
- ✅ 微信
- ✅ 企业微信

快速配置

1. 打开 Web UI，例如 http://localhost:12580
2. 在左侧栏底部的齿轮菜单里，打开 Power-ups 下的 Projects，然后在侧栏打开 IM
3. 配置你常用的 IM 平台机器人
4. 开始远程与你的智能体交互

使用场景

- 用手机或任意设备执行任务和查询
- 团队协作，共享智能体访问权限
- 离开工位时监控和操控智能体

Remote Control Demo

OpenAI SDK

from openai import OpenAI

client = OpenAI(
api_key="your-tingly-model-token",
base_url="http://localhost:12580/tingly/openai/v1"
)

response = client.chat.completions.create(
model="tingly-gpt",python
messages=[{"role": "user", "content": "Hello!"}]
)
print(response)

Anthropic SDK
python
from anthropic import Anthropic

client = Anthropic(
api_key="your-tingly-model-token",
base_url="http://localhost:12580/tingly/anthropic"
)

response = client.messages.create(
model="tingly",
max_tokens=1024,
messages=[
{"role": "user", "content": "Hello!"}
]
)
print(response)

Tingly Box 为 SDK 和命令行工具透明代理请求。

使用 OAuth 服务商

你也可以添加 OAuth 服务商（比如 Claude Code），在任何兼容 OpenAI 的工具里用上你已有的额度： bash

1. Add Claude Code via OAuth in Web UI (http://localhost:12580)

2. Configure your tool with Tingly Box endpoint

请求会走你通过 OAuth 授权的服务商，用你已有的 Claude Code 额度，不必再单独准备 API key。

任何支持 OpenAI 兼容端点的工具都能用：Cherry Studio、VS Code 扩展，或者自己写的 AI 智能体。

OAuth Provider Demo

自托管模型服务器 - vLLM / SGLang / Ollama / LM Studio / LocalAI / Jan

你已经在跑自己的推理服务器？Tingly Box 能像连其他服务商一样连上它，再通过同一个统一网关对外提供。

开箱即支持

- vLLM
- SGLang
- Ollama
- LM Studio
- LocalAI
- Jan

其他任何说 OpenAI/Anthropic 兼容 API 的服务，照样可以通过 Custom endpoint 接入。

快速配置

1. 打开 Web UI，比如 http://localhost:12580
2. 点 Connect AI → 在 Self-hosted 区域选你的引擎（默认 URL 和 key 已预填）
3. 点 Test Connection，然后保存 —— 现在它就能像其他服务商一样用了

Web 管理界面

启动 Web 管理界面： bash
npx tingly-box@latest

然后在浏览器里打开 http://localhost:12580。

Dashboard

文档

用户手册 – 安装、配置与运维指南

Docker 指南 – 构建、运行 Docker 镜像，以及排查问题

护栏 – 基于策略的安全检查、内置防护，以及受保护凭据的掩码处理

MCP Web 工具 – 本地 stdio MCP 服务器，提供 web_search / web_fetch

贡献

向本仓库贡献代码，即表示你同意你的贡献可以按 MPL-2.0 纳入本项目，Tingly Inc. 也可以按单独的商用许可条款使用这些贡献。

详见 CONTRIBUTING.md 和 NOTICE。

欢迎贡献！看下面的步骤从源码构建。

贡献指南 — 构建与开发

前置条件

| 工具 | 版本 | 安装方式 |
| Go | 1.26+ | https://go.dev/doc/install |
| Node.js | 20+ | https://nodejs.org/ |
| pnpm | latest | npm install -g pnpm |
| task | latest | go install github.com/go-task/task/v3/cmd/task@latest 或 https://taskfile.dev/installation/ |

小提示：不想装 task 的话，也可以从 Taskfile.yml 里把单条 shell 命令复制出来直接跑。

1. 克隆仓库并初始化子模块 bash
git clone https://github.com/tingly-dev/tingly-box.git
cd tingly-box
git submodule update --init --recursive

2. 前端开发

前端是 React + Vite 应用，位于 frontend/。可以脱离 Go 后端单独开发。

登录 token： 前端登录需要 auth token。后端启动时会打印完整登录 URL（例如 Web UI: http://localhost:12580/login/<token>）。之后想再取，运行： bash tingly-box token view auth --reveal

Mock 模式 – 不需要后端在跑，用内置的 fixture 数据： bash task web:mock

或者直接：

cd frontend && pnpm install && pnpm dev:mock

浏览器打开 http://localhost:9245，用上面拿到的 token 登录。

开发模式 – 把 API 调用代理到本地后端（先启动后端，见第 3 步）： bash task web

或者直接：

cd frontend && pnpm install && pnpm dev

3. 后端开发

启动 Go 服务（用 go run 热重载）： bash task start

或者直接：

go run ./cli/tingly-box --verbose start --debug --port 12580 --browser=false

浏览器打开 http://localhost:12580（提供最近一次构建的前端产物）。

4. 完整构建（前端 + 后端二进制）

先构建前端，嵌进二进制，再编译 Go： bash task build

产物二进制写到 ./build/tingly-box。

5. GUI 二进制（Wails）（可选）

GUI 构建尚未公开发布。除非你专门在做桌面端，否则跳过这一步。
bash
task wails:build

其他常用命令 bash task swagger # Regenerate openapi.json from Go source task codegen # Regenerate frontend API client from openapi.json task go:test # Run Go unit tests

赞助

如果 Tingly Box 对你有帮助，欢迎支持它的开发。

捐赠随意。 在 GitHub 上点个 ⭐ 或者贡献代码，同样感谢。

| 赞助者 | 详情 |
| 0xbeekeeper | 首位赞助者 |
| richardxx | 长期 Claude 订阅支持 |
| huajiankan | Figma 订阅支持 |

| Github Sponsors | 微信 | 支付宝 |
| ❤️ Github Sponsors | | |

贡献者

Contributors

技术支持

| Telegram | 微信 |
| https://t.me/+V1sqeajw1pYwMzU1 | tingly-box |

许可证

本项目提供两种授权方式：
- MPL-2.0 · © Tingly Dev – 见 LICENSE.txt
- 商业许可证 · © Tingly Dev – 见 LICENSE-COMMERCIAL.txt

商业授权咨询，请联系 box@tingly.dev。