Hindsight — Agent Memory That Learns

一句話

Hindsight 係 Vectorize.io 出嘅 agent memory system，用仿生數據結構組織記憶（World / Experiences / Mental Models），唔止 recall 對話歷史，而係令 agent 真正「學習」。LongMemEval benchmark SOTA。

核心架構

Retain → LLM 抽取事實/實體/關係/時間 → Normalization → Memory Banks
Recall → 4 種策略並行 → Reciprocal Rank Fusion + Cross-Encoder Reranking → Top-K
Reflect → 深度分析 → 新嘅 Mental Models

三種記憶類型： 1. World — 關於世界嘅事實（「 stove 會好熱」） 2. Experiences — Agent 自己嘅經驗（「我掂過 stove，好痛」） 3. Mental Models — 透過反思形成嘅理解同洞察

三個核心操作

Retain（儲存）

• LLM 抽取關鍵事實、時間、實體、關係
• Normalization → canonical entities、time series、search indexes
• 支持 metadata（per-user filtering）

Recall（搜尋）

• 4 種並行策略：
• Semantic — 向量相似度
• Keyword — BM25 精確匹配
• Graph — Entity/Temporal/Causal links
• Temporal — 時間範圍過濾
• Reciprocal Rank Fusion 合併結果
• Cross-Encoder reranking 排序
• 自動 trim 到 token limit

Reflect（反思）

• 深度分析現有記憶
• 發現新嘅連結同洞察
• 適用：AI PM 評估風險、Sales Agent 分析 outreach 效果、Support Agent 識別文檔缺口

性能基準

LongMemEval benchmark SOTA（截至 2026 年 1 月）： - 獨立驗證：Virginia Tech Sanghani Center + The Washington Post - Fortune 500 + AI startups 生產環境使用

同 SAG / RAG / GraphRAG 嘅分別

維度	Traditional RAG	GraphRAG	SAG	Hindsight
記憶類型	文档 chunks	知識圖譜	事件+實體	World/Experiences/Mental Models
檢索方式	向量模糊	圖遍歷	SQL JOIN 動態構建	4 策略並行 + Reranking
學習能力	無	無	無	有（Reflect 操作）
增量更新	簡單	難	簡單	簡單
構建成本	低	高	中	高（需要 LLM API）
生產就緒	是	是	否（單用戶）	是（Fortune 500）

部署方式

Docker（推薦）：

docker run -it --pull always --name hindsight --restart unless-stopped -p 8888:8888 -p 9999:9999 \
  -e HINDSIGHT_API_LLM_API_KEY=*** \
  -v hindsight-data:/home/hindsight/.pg0 \
  ghcr.io/vectorize-io/hindsight:latest

支持嘅 LLM providers： OpenAI, Anthropic, Gemini, Groq, Ollama, LMStudio, MiniMax, Atlas

存儲： 內嵌 pg0（PostgreSQL）或外部 PostgreSQL / Oracle AI Database

Client SDK： Python (hindsight-client)、Node.js (@vectorize-io/hindsight-client)、REST API、CLI

資源需求

• RAM：~1-2GB（Docker + pg0）
• CPU：2 核 minimum
• 磁碟：視數據量
• 必需：LLM API Key（Retain/Recall 都要 call LLM 做 entity extraction）

局限性

• 每次 Retain/Recall 都要 LLM API call → 有成本同延遲
• 需要外部 LLM API key（OpenAI/Anthropic 等）
• 對於簡單嘅 user preference memory 係 overkill
• 自託管但 LLM 調用唔免費

同我哋嘅關係

SAG Warm Memory 計劃： - SAG 同 Hindsight 都解決 agent memory 問題，但方法唔同 - SAG 用 SQL JOIN 動態構建關係，Hindsight 用仿生結構 + 多策略檢索 - 兩者都需要 LLM API key，我哋 VPS 暫時冇

Hermes Memory 架構： - 當前：MEMORY.md（hot）+ state.db FTS5（cold） - V1 計劃：SQLite FTS5 warm memory（無需外部依賴） - V2 方向：SAG 或 Hindsight（需要 API key）

相關

• sag-sql-retrieval-augmented-generation — SAG 嘅 SQL JOIN 動態構建方法
• agent-knowledge-architecture — Brain vs Agent 分離模式
• structured-memory-cards — State/Event/Knowledge 三種記憶卡片
• hermes-profiles-multi-user — 多用戶隔離 vs 人格切換

鏈接

• GitHub：https://github.com/vectorize-io/hindsight
• 文檔：https://hindsight.vectorize.io
• 論文：https://arxiv.org/abs/2512.12818
• Cookbook：https://hindsight.vectorize.io/cookbook
• Hindsight Cloud：https://ui.hindsight.vectorize.io/signup
• Slack：https://join.slack.com/t/hindsight-space/shared_invite/zt-3nhbm4w29-LeSJ5Ixi6j8PdiYOCPlOgg