Files
infra-docker-configs/servers/bwh-hk-cmi/litellm/README.md
T

559 B

Hong Kong CMI LiteLLM Vertex AI Relay

  • 仅通过 Hong Kong CMI 节点的 Tailscale IPv4 地址监听;LISTEN_IP 不要填写公网地址或 0.0.0.0
  • ADC、LiteLLM key 仅存放于 Arcane .env,不得提交 Git。
  • 默认监听端口为 1049;需要修改时设置 LITELLM_PORT
  • 对外模型别名包括 gemini-3.6-flashgemini-3.5-flash-litegoogle/gemini-embedding-2google/gemini-3.8-flash;后两者仍通过 Vertex AI ADC 路由。
  • 后续 Vertex Anthropic 模型在 config.yaml 增加独立模型项。