108 lines
4.5 KiB
Markdown
108 lines
4.5 KiB
Markdown
# tools-pve 统一模型代理
|
||
|
||
## 部署状态
|
||
|
||
2026-10-09：配置已准备，LiteLLM 1.104.2 镜像 OAuth 模块检查通过。
|
||
Arcane Manager 当前无法连接；尚未启动本项目，也尚未授权 OAuth。
|
||
不能将本说明中的计划地址当作已上线资产。
|
||
|
||
## 架构与入口
|
||
|
||
计划部署在 `192.168.50.49`，LiteLLM 与独立 PostgreSQL 17。
|
||
|
||
- OpenAI 兼容客户端：`http://192.168.50.49:4000/v1`。
|
||
- Anthropic SDK：`http://192.168.50.49:4000`，请求 `/v1/messages`。
|
||
- 管理界面：`http://192.168.50.49:4000/ui`。
|
||
- PostgreSQL 不发布主机端口。
|
||
- named volume：`tools-litellm-database`、`tools-litellm-oauth`。
|
||
|
||
只使用单个代理 worker，降低 OAuth refresh token 竞争的风险。
|
||
所有配置从 Git 生成，不允许 UI 中的模型配置成为另一份权威。
|
||
未提供 key 或未完成 OAuth 登录的路线不会进入运行配置。
|
||
|
||
## Provider 与缓存
|
||
|
||
ZenMux Claude 使用 Anthropic Messages 上游：
|
||
`https://zenmux.ai/api/anthropic`。
|
||
LiteLLM 的 `anthropic/anthropic/claude-sonnet-5.5` 第一个前缀是
|
||
LiteLLM provider，第二个前缀是 ZenMux 的模型 ID，不是笔误。
|
||
|
||
订阅路线为 `claude-sonnet-latest`、`claude-opus-latest`、
|
||
`claude-haiku-latest`；PAYG 路线在同名末尾加 `-payg`。
|
||
不自动由订阅切换到 PAYG，也不设置跨模型 fallback。
|
||
|
||
Claude 客户端优先使用原生 `/v1/messages`，保留 `cache_control`、
|
||
稳定的 tools/system 前缀以及原样回传的 thinking/signature。
|
||
不能保证每次 cache hit；首次创建、最小缓存长度、TTL 和上游路由都会影响结果。
|
||
上线验收需重复发送足够长且完全相同的前缀，检查
|
||
`cache_creation_input_tokens` 和 `cache_read_input_tokens`，不能只看 HTTP 200。
|
||
不把 LiteLLM 的响应缓存当作 Anthropic prompt cache。
|
||
|
||
开放模型优先经 OpenRouter；首版 `models.yaml` 来自实际 provider 目录。
|
||
`latest` 目前只是手动维护的稳定别名，没有自动追踪新版本。
|
||
Google AI Studio 预留独立 key 与模型表；取得有效 key 后查询目录再添加，
|
||
不把 Google OAuth/ADC 当成 AI Studio API key。
|
||
|
||
## 密钥
|
||
|
||
真实 `.env` 权限 `0600`，不提交 Git；模板见 `.env.example`。
|
||
ZenMux subscription/PAYG 的 key 需要明确确认用途，不能按外观推断。
|
||
数据库密码使用无特殊 URL 字符的随机值，避免 `DATABASE_URL` 编码问题。
|
||
`LITELLM_MASTER_KEY` 以 `sk-` 开头，salt 与 UI 密码独立随机生成。
|
||
日常客户端应使用管理界面创建的应用专属 virtual key，不共享 master key。
|
||
不要开启输出请求全文的 debug 日志。
|
||
|
||
## 独立 OAuth 登录
|
||
|
||
不复制 Codex CLI、Grok CLI 或 Hermes 的 refresh token。
|
||
在目标主机项目目录执行：
|
||
|
||
```bash
|
||
bash oauth-login.sh codex
|
||
```
|
||
|
||
打开终端显示的设备验证网址并输入验证码。
|
||
|
||
xAI 需要本机浏览器回调。先在浏览器所在电脑保持 SSH 隧道：
|
||
|
||
```bash
|
||
ssh -N -L 56121:127.0.0.1:56121 tools@192.168.50.49
|
||
```
|
||
|
||
然后在 tools-pve 的另一个终端运行：
|
||
|
||
```bash
|
||
bash oauth-login.sh xai
|
||
```
|
||
|
||
打开输出的授权 URL；若 56121 被占用，先关闭占用者再重试，
|
||
不要把临时改用的端口当作已有隧道可达。
|
||
登录 helper 使用 host network 仅供本地 OAuth 回调，生产代理仍使用独立 bridge。
|
||
|
||
确认账号实际支持的模型 ID 后，在 `models.yaml` 的 `chatgpt`/`xai` 表添加别名。
|
||
Codex 路线由 `chatgpt/` 访问，优先 `/v1/responses`；
|
||
xAI 路线使用 `xai/` 与 `use_xai_oauth: true`，不能设置 XAI API key 覆盖它。
|
||
新增 token 后需重启代理，运行时 refresh 会写回同一个持久卷。
|
||
|
||
## 部署及验收
|
||
|
||
正常走 Arcane Git Sync；当前 Manager 不可达，不绕过管理层静默部署。
|
||
如用户明确同意临时直接部署，将本目录放到 tools-pve，准备 `.env` 后执行：
|
||
|
||
```bash
|
||
docker compose config --quiet
|
||
docker compose up -d
|
||
docker compose ps
|
||
```
|
||
|
||
恢复 Arcane 后应纳管这套已有卷和项目，避免生成第二套数据库。
|
||
上线必须验证健康、带 virtual key 的模型列表、实际请求、stream 和工具调用；
|
||
OAuth 与 Claude cache hit 分别验收，未通过不能写成可用。
|
||
|
||
回滚只停止新增项目或回退配置/image pin，不删除 named volume。
|
||
定期 `pg_dump` 并保留独立备份，数据库卷不是备份。
|
||
|
||
参考：[LiteLLM ChatGPT OAuth](https://docs.litellm.ai/docs/providers/chatgpt)、
|
||
[xAI OAuth 官方源码](https://github.com/BerriAI/litellm/blob/main/litellm/llms/xai/oauth.py)、
|
||
[ZenMux prompt cache](https://zenmux.ai/docs/guide/advanced/prompt-cache.html)。
|