Keep Google rerank synthetic-only per user decision

2026-10-09 09:29:31 -07:00
parent a8c2a8d88f
commit 9ebc213d71
2 changed files with 24 additions and 18 deletions
@@ -70,8 +70,8 @@ HINDSIGHT_API_EMBEDDINGS_OPENROUTER_MODEL=baai/bge-m3
 HINDSIGHT_API_EMBEDDINGS_OPENAI_BATCH_SIZE=32
 HINDSIGHT_API_EMBEDDINGS_MAX_INPUT_TOKENS=8192

-# Google Discovery Engine via LAN LiteLLM, then TEI/OpenRouter/RRF.
-HINDSIGHT_API_RERANKER_PROVIDER=litellm
+# Google tested with synthetic text only; keep production reranking local.
+HINDSIGHT_API_RERANKER_PROVIDER=tei
 HINDSIGHT_API_RERANKER_LITELLM_API_BASE=http://192.168.50.49:4000
 HINDSIGHT_API_RERANKER_LITELLM_API_KEY=replace-with-litellm-client-key
 HINDSIGHT_API_RERANKER_LITELLM_MODEL=google-rerank-default
@@ -81,13 +81,8 @@ HINDSIGHT_API_RERANKER_TEI_BATCH_SIZE=32
 HINDSIGHT_API_RERANKER_TEI_MAX_CONCURRENT=4
 HINDSIGHT_API_RERANKER_TEI_HTTP_TIMEOUT=30
 HINDSIGHT_API_RERANKER_MAX_CANDIDATES=100
-HINDSIGHT_API_RERANKER_1_PROVIDER=tei
-HINDSIGHT_API_RERANKER_1_TEI_URL=http://192.168.50.100:18084
-HINDSIGHT_API_RERANKER_1_TEI_BATCH_SIZE=32
-HINDSIGHT_API_RERANKER_1_TEI_MAX_CONCURRENT=4
-HINDSIGHT_API_RERANKER_1_TEI_HTTP_TIMEOUT=30
-HINDSIGHT_API_RERANKER_2_PROVIDER=openrouter
-HINDSIGHT_API_RERANKER_2_OPENROUTER_API_KEY=replace-with-openrouter-key
-HINDSIGHT_API_RERANKER_2_OPENROUTER_MODEL=cohere/rerank-4-fast
-HINDSIGHT_API_RERANKER_2_OPENROUTER_TIMEOUT=30
-HINDSIGHT_API_RERANKER_3_PROVIDER=rrf
+HINDSIGHT_API_RERANKER_1_PROVIDER=openrouter
+HINDSIGHT_API_RERANKER_1_OPENROUTER_API_KEY=replace-with-openrouter-key
+HINDSIGHT_API_RERANKER_1_OPENROUTER_MODEL=cohere/rerank-4-fast
+HINDSIGHT_API_RERANKER_1_OPENROUTER_TIMEOUT=30
+HINDSIGHT_API_RERANKER_2_PROVIDER=rrf
@@ -1,17 +1,28 @@
 # Hindsight 独立 VM

 本项目部署到 PVE VM `hindsight`（`192.168.50.47`）的 Arcane Environment。
-它是新一代空白实例，不直接挂载或修改 unRaid 上的旧数据库。
+它是已迁移生产数据的独立实例，不直接挂载 unRaid 上的旧数据库。

 ## 组件

- Hindsight `0.10.1-slim`；
+- Hindsight `0.10.3-slim`；
 - PostgreSQL 18 + pgvector；
 - unRaid GPU0 上的本地 TEI `BAAI/bge-m3` embedding；OpenRouter 同模型保留为手动回滚；
- unRaid GPU0 上的本地 TEI `Alibaba-NLP/gte-multilingual-reranker-base` reranker，失败时依次回退 OpenRouter `cohere/rerank-4-fast` 与 RRF；
- ZenMux GPT-6 Luna 用于 Retain；
- ZenMux Grok 4.7 用于 Consolidation；
- ZenMux Sonnet 5 用于 Reflect。
+- 本地 TEI 用于生产 rerank，保留原有 OpenRouter `cohere/rerank-4-fast` 与 RRF 回退；Google 仅用于合成测试；
+- Codex OAuth GPT-6 Luna 用于 Retain；
+- xAI OAuth Grok 4.7 用于 Consolidation；
+- Codex OAuth GPT-6 Sol 用于 Reflect 与知识页刷新；原有 ZenMux 回退保持不变。
+
+## 本次升级验证
+
+升级前已生成 `/srv/hindsight/backups/pre-google-0.10.3-20261010.dump`，并通过
+`pg_restore --list` 校验。应用和数据库均健康，数据库容器没有重建。
+embedding 仍为本地 bge-m3，未重新生成向量。
+
+六组合成排序样本在 Google default、fast 与本地 TEI 上均通过，不代表已证明
+Google 质量优于 TEI。Google 单次请求约 1 秒，本地 TEI 为毫秒级。
+用户选择暂不向 Google 发送私人记忆，因此生产排序已恢复本地 TEI，
+Google 不在生产排序链中。embedding 迁移另行安排。

 运行数据固定在 `/srv/hindsight/postgres`。Compose 和非敏感模板进入 Git，真实
 数据库密码、ZenMux key 和 OpenRouter key 仅保存在该 Arcane Environment 的