본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

돌아가기
레포 이동

vectorize-io/hindsight

Python4 / 0

LLM 기반 사실 추출과 다중 검색으로 에이전트의 장기 기억을 구축하는 Python 프레임워크

TL;DR

Hindsight는 대화 이력을 저장하는 수준을 넘어 Agent가 시간이 지나며 사실과 경험을 통합하도록 만든 standalone agent memory framework이다. retain 단계에서 LLM이 사실·Entity·관계를 추출하고, recall 단계에서 Semantic·Keyword·Graph·Temporal 검색을 병렬 수행한 뒤 결과를 재정렬한다. reflect와 Observation·Mental Model 기능은 축적된 근거에서 새로운 연결과 지속적인 답변을 만들도록 설계됐다. Docker, Embedded DB, Helm, SDK, MCP, 60개 이상의 통합을 제공하므로 장기 기억이 필요한 운영형 Agent에 적합하지만 단순 검색형 워크플로에는 무거울 수 있다.

핵심 포인트

  • Hindsight는 단순한 대화 기록 저장소가 아니라 장기 기억을 학습하는 standalone agent memory framework이다. Python 서버와 Python·Node.js·Go SDK, REST API, CLI, MCP endpoint를 함께 제공해 여러 Agent 생태계에 연결할 수 있다. LangGraph, LangChain, LlamaIndex, CrewAI, OpenAI Agents SDK, n8n 등 60개 이상의 통합 대상이 명시돼 있다.
  • retain은 입력을 LLM으로 처리해 핵심 사실, 시간 정보, Entity, 관계를 추출하고 정규화된 Memory Unit과 검색 인덱스로 저장한다. recall은 Semantic Search, BM25 Keyword Search, Entity·Temporal·Causal Graph Traversal, Time Series 검색을 병렬 실행한 뒤 RRF와 Cross-Encoder Reranking으로 결과를 합치고 Token Limit에 맞게 줄인다. reflect는 축적된 기억 사이의 연결을 다시 계산해 단순 조회보다 깊은 판단과 응답에 사용한다.
  • 기억은 World Facts, Experiences, Observations, Mental Models로 나뉘며 Bank 단위로 격리된다. Observation은 관련 사실을 통합하면서 근거 인용과 proof count를 유지하고, 새 증거에 따라 기존 믿음을 보강하거나 약화하거나 확장한다. Mental Model과 Knowledge Page는 백그라운드에서 갱신된 답변을 저장하므로 매 세션마다 같은 정보를 다시 검색하거나 LLM으로 재구성할 필요를 줄인다.
  • Docker, pip, Kubernetes Helm, Embedded DB 방식으로 배포할 수 있고 PostgreSQL·pgvector와 Oracle AI Database 23ai를 지원한다. Prometheus 지표, Webhook, 관리자 CLI, Tenant·Auth·Storage 확장 지점이 있어 운영 환경을 고려한 구성이 가능하다. 반면 단순한 n8n 워크플로에는 과할 수 있으며, LLM 호출과 메모리 저장을 별도로 운영해야 하므로 가벼운 Vector DB 대체재를 찾는 경우에는 복잡도가 높다.

벤치마크

벤치마크지표값비교
LongMemEvalOverall Score94.6%제공된 benchmark 이미지 기준 Hindsight 점수이며, GPT-4o 60.2%, Zep 71.2%, SuperMemory 85.92%와 비교된다. README는 Virginia Tech Sanghani Center와 The Washington Post 연구 협력자들이 Hindsight 벤치마크를 독립 재현했다고 밝히지만, 다른 점수는 소프트웨어 업체의 자체 보고일 수 있다고 명시한다.

이미지 분석

LongMemEval Overall Score에서 Hindsight가 94.6%로 표시되고 SuperMemory 85.92%, Zep 71.2%, GPT-4o 60.2%가 뒤따른다.
이미지는 Hindsight의 장기 기억 평가 점수를 다른 메모리 시스템 및 모델과 수평 막대 형태로 비교한다. README가 설명한 LongMemEval 성능 주장과 직접 연결되며, Hindsight의 기억 검색·통합 설계가 벤치마크 결과에서 어떤 위치에 있는지 파악하게 한다.
Hindsight Memory Networks가 World Facts, Experiences, Observations, Opinions를 연결하고 Retain, Recall, Reflect 흐름으로 에이전트 기억을 순환 처리한다.
다이어그램은 World Facts와 Experiences가 기억 네트워크에 들어가고, Observations와 Opinions를 거쳐 Retain·Recall·Reflect가 반복되는 구조를 나타낸다. README의 biomimetic memory 개념과 세 가지 핵심 연산을 시각적으로 연결해 단순 Vector Search보다 다양한 기억 유형과 추론 흐름을 사용한다는 점을 전달한다.
Retain Input이 LLM Fact Extraction, Entity Resolution, Memory Units 생성, Link Construction과 Memory Routing을 거쳐 World·Experience·Opinion·Observation 저장소에 기록된다.
처리 흐름은 입력에서 사실을 추출한 뒤 시간 범위와 사실 유형을 붙이고 Entity를 정규화하는 단계를 거친다. 이후 Entity·Temporal·Semantic·Causal Link를 만들고 기억 유형별 저장소로 라우팅하므로 retain이 원문을 그대로 보관하는 작업이 아니라 검색 가능한 구조로 변환하는 파이프라인임을 보여준다.
Input Query가 Semantic Search, Keyword Search, Graph Traversal, Time Series 검색으로 병렬 분기된 뒤 Fusion & Refinement와 Budget Filtering을 거쳐 최종 Contextual Memory Set을 만든다.
다이어그램은 하나의 질의를 Vector Similarity, BM25, Entity·Causal Link, Temporal Range라는 네 경로로 동시에 검색한다. 결과를 RRF와 Cross-Encoder Reranking으로 융합하고 Token Limit에 맞춰 필터링해 Entity Context와 Temporal Info를 최종 문맥으로 반환하는 구조를 나타낸다.

22k

STARS

1.7k

FORKS

+209

TRENDING

4

조회수

watchers 22kopen issues 88MIT License

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.