memv v0.1.2: 예측 기반 추출 및 PostgreSQL을 지원하는 LLM 메모리 시스템

커뮤니티 반응

프로젝트의 새로운 기능과 PostgreSQL 지원에 대해 긍정적인 반응이 예상되며, 특히 예측 기반 추출 방식의 효율성에 관심이 집중되고 있다.

합의점 vs 논쟁점

합의점

단순 검색보다 예측 기반 추출이 메모리 효율성 측면에서 유리하다.
PostgreSQL과 같은 표준 DB 백엔드 지원이 프로덕션 도입에 필수적이다.

실용적 조언

PostgreSQL 백엔드를 사용하려면 db_url 설정 시 postgresql 프로토콜을 명시해야 한다.
로컬 환경에서 임베딩을 처리하려면 fastembed 어댑터를 사용하여 ONNX 모델을 활용할 수 있다.

섹션별 상세

예측 기반 추출: memv는 Nemori 논문에서 영감을 받아 대화에 포함되어야 할 내용을 먼저 예측한 뒤 누락된 정보만 추출하는 방식을 취한다. 모든 데이터를 일단 추출하고 필터링하는 기존 시스템과 달리 예측 모델이 생성한 기대값과 실제 입력값 사이의 차이만 저장한다. 이 메커니즘은 LLM의 컨텍스트 윈도우를 효율적으로 사용하며 데이터 중복을 획기적으로 줄였다. 대규모 대화 시스템에서 정보 추출에 소요되는 연산 자원을 최적화하는 데 기여했다.

이중 시간성 유효성 관리: Graphiti 모델을 도입하여 이벤트 발생 시간(Event time)과 데이터베이스 기록 시간(Transaction time)을 독립적으로 관리한다. 새로운 사실이 입력되면 이전의 모순된 정보를 자동으로 무효화하고 감사 추적(Audit trail)을 남기는 방식으로 작동한다. 이는 사용자의 선호도나 상황이 시간에 따라 변할 때 LLM이 가장 최신의 정확한 정보를 참조하도록 보장한다. 지식 그래프 기반의 메모리 구조에서 정보의 선후 관계를 명확히 정의하는 데 중요한 역할을 했다.

하이브리드 검색 및 에피소드 분할: 벡터 검색과 BM25를 결합한 Reciprocal Rank Fusion(RRF) 기술을 통해 검색 정확도를 극대화했다. 정보를 추출하기 전 메시지들을 의미 있는 단위로 묶는 에피소드 분할(Episode segmentation) 과정을 거쳐 맥락의 단절을 방지한다. PostgreSQL의 pgvector와 tsvector를 활용하여 대규모 데이터셋에서도 빠른 검색 속도와 높은 재현율을 동시에 확보했다. 단순한 유사도 검색의 한계를 극복하고 키워드 기반의 정밀한 검색을 보완한 실무적인 접근이다.

python

from memv import Memory
from memv.embeddings import OpenAIEmbedAdapter
from memv.llm import PydanticAIAdapter

memory = Memory(
    db_url="postgresql://user:pass@host/db",
    embedding_client=OpenAIEmbedAdapter(),
    llm_client=PydanticAIAdapter("openai:gpt-4o-mini"),
)

memv 라이브러리를 사용하여 PostgreSQL 백엔드, OpenAI 임베딩, PydanticAI LLM 클라이언트를 초기화하는 기본 설정 코드이다.

용어 해설

이중 시간성 유효성(Bi-temporal Validity): — 데이터의 유효성을 이벤트 발생 시점과 시스템 기록 시점이라는 두 가지 시간 축으로 관리하는 기법이다. 정보가 언제 발생했는지와 언제 데이터베이스에 반영되었는지를 구분하여 과거 데이터의 수정이나 삭제 이력을 정확히 추적한다. 시간에 따라 변하는 동적인 지식을 다루는 LLM 메모리 시스템에서 데이터의 무결성과 최신성을 유지하는 핵심 메커니즘이다.
상호 순위 결합(Reciprocal Rank Fusion): — 서로 다른 검색 알고리즘(예: 벡터 검색과 키워드 검색)의 결과 순위를 결합하여 최종 순위를 결정하는 앙상블 기법이다. 각 검색 결과의 순위에 역수를 취해 합산하는 방식으로 작동하며 특정 검색 방식의 편향을 줄이고 종합적인 관련성을 높인다. 하이브리드 검색 시스템에서 다양한 검색 의도를 충족시키고 검색 성능의 하한선을 높이는 데 널리 사용된다.
pgvector: — 오픈소스 관계형 데이터베이스인 PostgreSQL에서 벡터 데이터를 저장하고 검색할 수 있게 해주는 확장 모듈이다. 고차원 임베딩 벡터 간의 유사도 검색(L2 거리, 코사인 유사도 등)을 SQL 쿼리로 수행할 수 있도록 지원한다. 기존의 안정적인 RDBMS 인프라 위에서 벡터 DB 기능을 통합 구현할 수 있어 LLM 애플리케이션의 데이터 아키텍처를 단순화하는 데 유용하다.

언급된 도구

memv추천

LLM 메모리 관리 라이브러리

PostgreSQL중립

벡터 및 텍스트 데이터 저장 백엔드

pgvector추천

PostgreSQL 기반 벡터 검색 확장

언급된 리소스

GitHubmemv GitHub Repository

문서memv Documentation