Files
infra-docker-configs/servers/bwh-jp-osaka/litellm/README.md
T

7 lines
361 B
Markdown

# Osaka LiteLLM Vertex AI Relay
- 仅通过 Osaka 节点的 Tailscale IPv4 地址监听;`LISTEN_IP` 不要填写公网地址或 `0.0.0.0`
- ADC、LiteLLM key 仅存放于 Arcane `.env`,不得提交 Git。
- 默认监听端口为 `1049`;需要修改时设置 `LITELLM_PORT`
- 后续 Vertex Anthropic 模型在 `config.yaml` 增加独立模型项。