Files
infra-docker-configs/servers/bwh-hk-cmi/litellm

香港 CMI LiteLLM 多提供商代理

  • 公网 OpenAI-compatible 入口为 https://api.opfo.xyz/v1,由 Caddy 终止 TLS 后通过外部 Docker 网络 hk-web 反向代理到 litellm-api:1049。
  • LiteLLM 不使用 host network,也不向宿主机发布端口;容器内监听 0.0.0.0:1049 仅供 hk-web 上的 Caddy 访问。
  • 默认监听端口为 1049;需要修改时必须同时更新 Arcane 的 LITELLM_PORT 和 Caddy 的上游端口。
  • 客户端使用 Authorization: Bearer <LITELLM_MASTER_KEY>;认证由 LiteLLM 执行,Caddy 仅负责 TLS 和反向代理并保留该请求头。
  • ADC 与 LITELLM_MASTER_KEY 仅存放于 Arcane .env,不得写入 Git、文档或日志。
  • 对外模型别名包括 gemini-3.6-flash、gemini-3.5-flash-lite、 google/gemini-embedding-2 和 google/gemini-3.8-flash;后两者仍通过 Vertex AI ADC 路由。
  • 2026-10-25 同步 tools-pve 已验证的 LiteLLM 1.104.2 固定镜像,以及 models.yaml 中的提供商映射。latest 是维护的别名,不是自动发现所有厂商的新模型。
  • provider_routes.py 是同日 tools-pve 的路由生成器快照;更新提供商逻辑时应同步比对两端。HK 的 render_config.py 删除数据库管理、OAuth 和个人词库路线,保留现有主密钥认证。
  • Arcane Project 本地变量增加 ZENMUX_SUBSCRIPTION_API_KEY、ZENMUX_PAYG_API_KEY、OPENROUTER_API_KEY。只有相应凭据存在时才生成该组路由;真实值不进入 Git。
  • Claude 使用 ZenMux 原生 Anthropic Messages 路径,订阅与 -payg 显式分开;开源模型使用 ZenMux 订阅优先、同模型 OpenRouter 后备。不自动回退至 ZenMux PAYG。
  • HK 合成请求实测 AI Studio 返回 User location is not supported for the API use,因此 Compose 不传入 AI Studio 凭据,也不发布其对话、embedding 或转写路线。tools-pve 上原有 AI Studio 功能不受影响。个人词库、OAuth 会话和会议处理程序没有复制至 HK。
  • Vertex 继续使用 HK 原有 ADC。旧 gemini-3.6-flash 别名保留,但指向当前映射的 gemini-3.8-flash;其余旧别名保留。
  • 当前实际配置由启动脚本生成至 /tmp/litellm.yaml;旧 config.yaml 仅作为历史参考,不再挂载。
  • 升级只重建 LiteLLM,不变更 Caddy、HAProxy、其他项目及 ADC 卷。失败时回退本次 Git 提交并同步,再按需要 Redeploy,禁止删除卷。