벡터 스토어에서 그래프 데이터베이스로: AI 에이전트 메모리 구축기

실용적 조언

중요도 점수 산정 시 추상적인 척도 대신 구체적인 예시를 모델에 제공하여 보정하라.
엔티티 추출 시 그래프에 저장된 기존 엔티티 목록을 프롬프트에 주입하여 일관성을 확보하라.
메모리 시스템 구축 시 벡터 검색과 그래프 순회를 결합한 다중 홉 검색 전략을 사용하라.

섹션별 상세

평면적인 벡터 스토어는 데이터 간의 관계를 저장하지 못하고 시간적 맥락을 처리할 수 없어 메모리 시스템으로 부적합하다. 단순히 임베딩 유사도로 검색할 경우 중복 데이터가 발생하고, 'A가 B에서 일한다'와 같은 관계를 추적할 수 없는 문제가 있다. 이로 인해 벡터 검색만으로는 지식의 진화 과정을 추적하거나 복잡한 질의를 수행하는 데 한계가 있다.

cypher

CREATE VECTOR INDEX FOR (f:Fact) ON (f.embedding) OPTIONS {dimension: 4096, similarityFunction: 'cosine'}

FalkorDB 내부에 HNSW 벡터 인덱스를 생성하는 쿼리 예시

FalkorDB는 그래프 traversal, HNSW 벡터 검색, Redis 프로토콜을 단일 20MB 컨테이너에서 지원하여 시스템 복잡도를 낮춘다. 별도의 벡터 데이터베이스를 운영할 필요 없이 그래프 구조 내에서 다중 홉 추론과 시간 기반 쿼리가 가능하다. 이는 시스템이 특정 시점에 무엇을 알고 있었는지 추적하는 기능을 구현하는 기반이 된다.

소규모 로컬 모델은 컨텍스트 없이 엔티티를 추출할 때 일관성이 떨어진다. 그래프에 저장된 기존 엔티티 정보를 NER 프롬프트에 주입하면 모델이 참조할 컨텍스트를 확보하게 된다. 이 방식은 그래프가 커질수록 엔티티 추출 정확도가 향상되는 선순환 구조를 만든다.

메모리 주입은 고정된 중요 사실, 벡터 검색, 그래프 다중 홉 연결을 결합한 4단계 파이프라인으로 작동한다. 검색 점수는 유사도(50%), 최신성(20%), 중요도(30%)를 조합하여 계산된다. 이 방식은 질의에 직접 언급되지 않은 관련 정보를 그래프 연결을 통해 효과적으로 호출한다.

데이터 중복 제거는 단일 검증이 아닌 다단계 파이프라인으로 수행된다. 해시 매칭으로 정확히 일치하는 데이터를 걸러내고, 부분 문자열 검사, 임베딩 유사도, LLM을 통한 의미론적 중복 검사를 순차적으로 적용한다. 여러 방법을 조합해야만 다양한 형태의 중복을 효과적으로 제거할 수 있다.

용어 해설

그래프 데이터베이스(Graph Database): — 데이터를 노드와 엣지로 표현하여 관계를 저장하는 데이터베이스. 단순 벡터 검색과 달리 데이터 간의 연결을 따라 다중 홉 추론이 가능하며, 복잡한 관계 파악에 유리하다.
계층적 탐색 가능 소규모 세계(HNSW): — 고차원 벡터 공간에서 근사 최근접 이웃(ANN) 검색을 빠르게 수행하는 그래프 기반 알고리즘. FalkorDB 등에서 벡터 인덱싱에 사용된다.
개체명 인식(NER): — 텍스트에서 인물, 조직, 위치 등 고유 명사를 식별하고 분류하는 기술. 그래프에 저장된 기존 엔티티 정보를 활용하면 추출 정확도를 높일 수 있다.
다중 홉 추론(Multi-hop Reasoning): — 데이터 간의 연결을 따라 여러 단계를 거쳐 정보를 추론하는 방식. 단순 벡터 검색이 도달하지 못하는 간접적인 관계를 파악하는 데 필수적이다.

언급된 도구

FalkorDB추천

그래프 및 벡터 데이터베이스

Chroma비추천

벡터 데이터베이스

Qdrant비추천

벡터 데이터베이스

Phi-4추천

엔티티 및 팩트 추출