Vektori: 지식 그래프 트리플의 한계를 극복하는 3계층 에이전트 메모리 시스템

주요 논점

01찬성다수

트리플 기반 지식 그래프보다 문장 계층 그래프가 대화 메모리에 더 적합하다

합의점 vs 논쟁점

합의점

대화의 맥락과 '이유(why)'를 보존하는 것이 에이전트 메모리 성능의 핵심이다.

논쟁점

임베딩 공간에서의 의미 희석 문제를 해결하기 위해 벡터 검색 대신 그래프 탐색을 사용하는 방식의 효율성.

실용적 조언

대화형 에이전트 구축 시 단순 사실 추출보다 그 이면의 통찰을 연결하는 그래프 구조를 고려할 것.
복합적인 개념 검색 시 벡터 검색의 한계를 인지하고 그래프 탐색을 결합하여 정확도를 높일 수 있음.

섹션별 상세

기존 지식 그래프의 트리플 추출 방식은 대화의 맥락과 인과관계를 손실시키는 한계가 있다. 주어-목적어-술어 구조에 맞지 않는 시퀀스나 톤, 인과관계 등이 모두 버려지기 때문이다. Vektori는 이러한 정보 손실을 방지하기 위해 문장 기반의 3계층 그래프 구조를 대안으로 제시한다. 대화형 메모리에서는 사실 뒤에 숨겨진 '이유'가 에이전트의 행동을 결정하는 핵심 요소이기 때문이다.

시스템은 L0(사실), L1(통찰), L2(원문)의 세 계층으로 구성되어 작동한다. 벡터 검색은 구체적인 사실이 담긴 L0에서 수행되며, 여기서 발견된 노드를 기점으로 그래프 탐색을 시작한다. 복합적인 개념인 L1 통찰은 임베딩 공간에서 의미가 희석되기 쉬우므로 벡터 검색 대신 그래프 엣지를 따라 추출하는 방식을 취한다. 마지막 L2 계층은 원본 대화 내용을 보존하여 검색 실패 시의 폴백 역할을 수행한다.

정보 추출 시점에 LLM이 직접 작성한 그래프 엣지를 따라가며 정보를 검색하는 메커니즘을 사용한다. 이는 런타임 시점의 유사도 기반 근사치 계산이 아니라, 모델이 사전에 수행한 추론 경로를 그대로 따라가는 방식이다. 결과적으로 여러 세션에 걸쳐 추상화된 통찰을 더 정확하게 연결할 수 있다. 이 과정에서 BGE-M3 모델을 활용해 로컬 환경에서 오프라인 임베딩을 수행함으로써 API 의존도를 낮췄다.

인프라 구성을 단순화하기 위해 별도의 그래프 데이터베이스 없이 SQLite나 Postgres(pgvector) 하나만 사용한다. Neo4j나 Qdrant 같은 추가 도구 없이도 단일 DB 내에서 벡터 검색과 그래프 관계 관리를 동시에 처리한다. 이러한 효율적인 구조를 통해 LongMemEval 벤치마크에서 73%의 높은 점수를 기록하며 성능을 입증했다. 실무적으로는 인프라 복잡도를 획기적으로 줄이면서도 고성능 메모리 시스템을 구축할 수 있음을 보여준다.

용어 해설

지식 그래프 트리플(Knowledge Graph Triples): — 정보를 주어, 술어, 목적어의 세 요소로 구조화하여 저장하는 방식이다. 복잡한 관계를 명확히 표현할 수 있지만, 대화의 미묘한 뉘앙스나 선후 관계를 담기에는 정보 손실이 발생할 수 있다.
그래프 탐색(Graph Traversal): — 그래프 구조에서 노드 사이의 연결(엣지)을 따라 데이터를 찾아가는 과정이다. 벡터 유사도 검색과 달리, 데이터 간의 명시적인 논리적 관계를 기반으로 정보를 추적할 수 있어 맥락 유지에 유리하다.
장기 기억 평가 벤치마크(LongMemEval): — AI 모델의 장기 기억 능력을 측정하기 위한 벤치마크 데이터셋이다. 긴 대화 맥락에서 정보를 얼마나 정확하게 추출하고 유지하며 활용하는지를 평가하는 지표로 사용된다.
pgvector: — PostgreSQL 데이터베이스에서 벡터 데이터를 저장하고 검색할 수 있게 해주는 확장 기능이다. 별도의 벡터 DB를 구축하지 않고도 기존 관계형 데이터베이스 내에서 유사도 검색을 수행할 수 있어 시스템 구조를 단순화한다.

언급된 도구

Vektori추천링크

에이전트 메모리 시스템

BGE-M3추천

로컬 임베딩 생성

Gemini Flash 2.5 Lite추천

정보 추출 및 그래프 생성

pgvector추천

벡터 데이터 저장 및 검색

언급된 리소스

GitHubVektori GitHub Repository