AI 模型网关tingly-dev/tingly-box

Tingly Box Web UI 演示

Tingly Box

快速开始 •
功能特性 •
集成指南 •
文档 •
问题反馈

Tingly Box 为智能体提供服务、协调 AI 模型、优化上下文并路由请求，以实现最高效率——内置远程控制以及安全、可定制的集成。

核心功能

* 智能体优先的模型网关
* 统一的 AI 端点——无缝桥接任意提供商
* 智能体一键配置——Claude Code、OpenCode、Codex、Xcode 等
* Claude Code 配置文件——在不同场景下切换使用不同模型的配置文件
* 同时支持 API 密钥和 OAuth——随时随地使用你现有的配额
* 测试框架驱动的基础设施
* VModel（虚拟模型）——用于测试、验证、基准测试和测试框架驱动的评估
* 测试框架驱动——跨协议、路由、负载均衡、客户端等实现稳健性
* 体验优先
* 可视化地管理提供商、路由、别名、模型和远程机器人
* 直观的工作流，让复杂操作易于理解和掌控
* 生产就绪
* 智能路由——根据成本、速度或自定义策略，在模型和令牌之间智能路由请求
* 远程控制——通过 Telegram、钉钉、飞书、Lark、微信、企业微信、Slack 和 Discord 远程控制 AI 智能体
* 团队管理——通过专用 API 令牌、用量追踪、提供商访问权限和配置，为每个用户隔离数据
* 用量分析——追踪每个请求的令牌消耗、延迟、成本估算和模型选择
* 极速性能——通常仅增加 ** 在此处同样适用

tb start   # tb = tingly-box；在后台运行（--no-daemon 为前台运行）
tb open    # 打开 Web UI

更新：重新安装，然后重启以生效
npm install -g tingly-box@latest
tb restart

如果遇到任何问题，请检查 tingly-box 输出，或提交 issue 寻求帮助。

安装 Node 和 NPX

MacOS 和 Linux
通过 nvm 安装 Node.js LTS
curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/master/install.sh | bash

重启终端或加载 nvm
source ~/.nvm/nvm.sh

安装 Node.js LTS
nvm install --lts

验证安装
node -v
npx -v

Windows
使用 Winget 的 Powershell
winget install OpenJS.NodeJS.LTS

重启终端，然后验证安装
node -v
npx -v

或手动下载并安装 Node.js LTS：
https://nodejs.org/en/download

从 Docker 安装（GitHub Host）
bash
mkdir tingly-data
docker run -d \
--name tingly-box \
-p 12580:12580 \
-v pwd/tingly-data:/home/tingly/.tingly-box \
ghcr.io/tingly-dev/tingly-box

从 Docker Compose 安装（推荐用于隔离环境）、构建自己的镜像或进行故障排查 —— 请参阅 Docker 指南。

集成指南

Agent 集成 - Claude Code / Claude Desktop / OpenCode / Codex / Xcode / VSCode / OpenClaw

- Claude Code（支持一键配置）
- OpenCode（支持一键配置）
- Xcode（需要手动配置）
- ……

任何应用程序均可直接使用。

我们在应用程序中提供了详细的配置指南

Agent 集成演示

DeepSeek 最佳兼容性

DeepSeek 针对主流 agent 工作流进行了优化，在协议适配器、agent 客户端、扩展上下文、视觉、网络搜索和缓存优化方面提供广泛的兼容性。

| 模块                             |        状态 | 解决的问题                                                            |
| -------------------------------- | ----------: | --------------------------------------------------------------------- |
| 模型列表                         | ✅ 支持     | 实时保持官方模型列表最新                                              |
| 协议适配                         | ✅ 支持     | 支持官方 Anthropic/OpenAI API 并进行双向转换                          |
| 推理能力                         | ✅ 支持     | 提供对 Thinking 工作流的兼容性                                        |
| 缓存命中优化                     | ✅ 支持     | 提高 DeepSeek 请求的缓存命中率                                        |
| 视觉代理                         | ✅ 支持     | 使 DeepSeek 能够理解和处理图像                                        |
| 网络搜索                         | ✅ 支持 | 通过 Anthropic 端点调用官方 Web 工具               |
| 1M 上下文窗口                    | ✅ 支持 | 支持一键设置 1M 上下文                                |
| Codex 适配                       | ✅ 支持 | 确保与主流智能体工作流兼容                            |
| Claude Code / Desktop 适配       | ✅ 支持 | 确保与主流智能体工作流兼容                            |

在支持的情况下提供一键配置。对于需要手动设置的应用程序，提供详细的应用内配置指南。

任何兼容的应用程序均可直接使用。

详细配置指南可在每个应用程序内获取。

通过 IM 机器人远程控制智能体 - TG / 钉钉 / 飞书 / Lark / 微信 / 企业微信

Tingly Box 现已支持通过主流 IM 平台进行远程控制。无需直接访问服务器，即可远程与你的 AI 智能体交互。

支持的平台

- ✅ Telegram
- ✅ 钉钉
- ✅ 飞书
- ✅ Lark
- ✅ 微信
- ✅ 企业微信

快速设置

1. 打开 Web UI，例如 http://localhost:12580
2. 导航至 Remote 部分
3. 配置你偏好的 IM 平台机器人
4. 开始远程与你的智能体交互

使用场景

- 通过手机或任意设备执行任务和查询
- 通过共享智能体访问进行团队协作
- 在离开工作站时监控和控制智能体

远程控制演示

OpenAI SDK
python
from openai import OpenAI

client = OpenAI(
api_key="your-tingly-model-token",
base_url="http://localhost:12580/tingly/openai/v1"
)

response = client.chat.completions.create(
model="tingly-gpt",
messages=[{"role": "user", "content": "Hello!"}]
)
print(response)

Anthropic SDK
python
from anthropic import Anthropic

client = Anthropic(
api_key="your-tingly-model-token",
base_url="http://localhost:12580/tingly/anthropic"
)

response = client.messages.create(
model="tingly",
max_tokens=1024,
messages=[
{"role": "user", "content": "Hello!"}
]
)
print(response)

Tingly Box 为 SDK 和 CLI 工具透明代理请求。

使用 OAuth 提供商

你还可以添加 OAuth 提供商（如 Claude Code），并在任何 OpenAI 兼容工具中使用你现有的配额：
bash
1. Add Claude Code via OAuth in Web UI (http://localhost:12580)
2. Configure your tool with Tingly Box endpoint

请求会通过你 OAuth 授权的提供商进行路由，使用你现有的 Claude Code 配额，而无需单独的 API 密钥。

这适用于任何支持 OpenAI 兼容端点的工具：Cherry Studio、VS Code 扩展或自定义 AI 智能体。
OAuth 提供方演示

自托管模型服务器 - vLLM / SGLang / Ollama / LM Studio / LocalAI / Jan

已经在运行你自己的推理服务器？Tingly Box 可以像连接任何其他提供方一样连接它，并通过同一个统一网关将其暴露出来。

开箱即用支持

- vLLM
- SGLang
- Ollama
- LM Studio
- LocalAI
- Jan

其他任何兼容 OpenAI/Anthropic API 的服务仍然可以通过 自定义端点 使用。

快速设置

1. 打开 Web UI，例如 http://localhost:12580
2. 点击 Connect AI → 从 自托管 部分选择你的引擎（默认 URL 和密钥已预填）
3. 测试连接，然后保存——现在它就可以像任何其他提供方一样使用了

Web 管理 UI

启动 Web 管理界面：
bash
npx tingly-box@latest

然后在浏览器中打开 http://localhost:12580。

仪表盘

文档

用户手册 – 安装、配置和操作指南

Docker 指南 – 构建、运行 Docker 镜像以及故障排除

护栏 – 基于策略的安全检查、内置保护以及受保护凭据掩码

MCP Web 工具 – 用于 web_search / web_fetch 的本地 stdio MCP 服务器

贡献

通过向此仓库贡献内容，即表示你同意你的贡献可以
根据 MPL-2.0 包含在本项目中，并且也可以由 Tingly Inc.
根据单独的商业许可条款使用。

详情请参阅 CONTRIBUTING.md 和 NOTICE。

我们欢迎贡献！查看以下步骤以从源代码构建。

贡献指南 — 构建与开发

先决条件

| 工具    | 版本    | 安装                                                                                          |
| ------- | ------- | --------------------------------------------------------------------------------------------- |
| Go      | 1.26+   | https://go.dev/doc/install                                                                    |
| Node.js | 20+     | https://nodejs.org/                                                                           |
| pnpm    | latest  | npm install -g pnpm                                                                         |
| task    | latest  | go install github.com/go-task/task/v3/cmd/task@latest 或 https://taskfile.dev/installation/ |

提示：如果你不想安装 task，也可以直接从 Taskfile.yml 中复制单独的 shell 命令并直接运行。

1. 克隆并初始化子模块
bash
git clone https://github.com/tingly-dev/tingly-box.git
cd tingly-box
git submodule update --init --recursive

2. 前端开发
前端是一个位于 frontend/ 的 React + Vite 应用。你可以独立于 Go 后端进行开发。

登录令牌： 前端需要认证令牌才能登录。后端启动时会打印完整的登录 URL（例如 Web UI: http://localhost:12580/login/）。如果你之后需要获取它，请运行：
bash
tingly-box token view auth --reveal

模拟模式 – 无需运行后端，使用内置的固定数据：
bash
task web:mock
或直接：
cd frontend && pnpm install && pnpm dev:mock

在浏览器中打开 http://localhost:9245。使用上面获取的令牌登录。

开发模式 – 将 API 调用代理到本地后端（先启动后端，参见第 3 步）：
bash
task web
或直接：
cd frontend && pnpm install && pnpm dev

3. 后端开发

运行 Go 服务器（通过 go run 热重载）：
bash
task start
或直接：
go run ./cli/tingly-box --verbose start --debug --port 12580 --browser=false

在浏览器中打开 http://localhost:12580（提供上次构建的前端包）。

4. 完整构建（前端 + 后端二进制文件）

构建前端，将其嵌入二进制文件，然后编译 Go：
bash
task build

输出的二进制文件写入 ./build/tingly-box。

5. GUI 二进制文件（Wails）（可选）

GUI 构建尚未公开发布。除非你专门从事桌面应用开发，否则请跳过此步骤。
bash
task wails:build

其他有用的命令
bash
task swagger        # 从 Go 源代码重新生成 openapi.json
task codegen        # 从 openapi.json 重新生成前端 API 客户端
task go:test        # 运行 Go 单元测试

支持

|                                                              Telegram                                                              |                                                               Wechat                                                               |
| :--------------------------------------------------------------------------------------------------------------------------------: | :--------------------------------------------------------------------------------------------------------------------------------: |
|  |  |
|                                                   https://t.me/+V1sqeajw1pYwMzU1                                                   |                                                             tingly-box                                                             |

早期贡献者

我们铸造了特殊徽章，以表彰以下贡献者的贡献：

贡献者

Contributors

许可证

本项目基于以下许可证提供：
- MPL-2.0 · © Tingly Dev – 参见 LICENSE.txt
- 商业许可证 · © Tingly Dev – 参见 LICENSE-COMMERCIAL.txt

如需商业许可咨询，请联系 biz@tingly.dev。

❤️ 支持 Tingly Box

如果 Tingly Box 对你有帮助，欢迎支持它的开发。

捐赠是可选的。 在 GitHub 上点一个 ⭐ 或做出贡献同样值得感谢。

|                            微信支付                             |                            支付宝                             |
| :---------------------------------------------------------------: | :-----------------------------------------------------------: |
|  |  |