AI 에이전트 메모리 전략 벤치마크: RAG vs 요약 vs 버퍼

섹션별 상세

버퍼 메모리는 15턴 이후 성능이 저하되며 약 70%의 회상률을 보였다. 이는 대화가 길어질수록 컨텍스트 윈도우 제한으로 인해 초기 정보가 손실되기 때문이다. 실무에서는 단기 대화에만 제한적으로 사용해야 한다.

LLM 요약 방식은 42%의 낮은 회상률과 가장 느린 처리 속도를 기록했다. 요약 과정에서 정보가 압축되며 핵심 내용이 누락되고, 추가적인 LLM 호출로 인해 지연 시간이 발생한다. 장기 기억 보존에는 부적합하다.

Qdrant와 pgvector를 사용한 RAG 방식은 약 82%의 높은 회상률을 기록했다. 대화 기록을 벡터화하여 검색함으로써 정확한 정보를 필요할 때 추출할 수 있다. 요약 방식보다 지연 시간과 정보 보존 측면에서 우수하다.

Qdrant와 pgvector 간의 성능 차이는 통계적으로 유의미하지 않다. 따라서 기존 Postgres 환경을 운영 중이라면 별도의 벡터 DB 인프라를 추가하는 대신 pgvector를 활용하는 것이 인프라 복잡도를 낮추는 효율적인 선택이다.

검색 증강 생성(RAG): — 외부 데이터베이스에서 관련 정보를 검색하여 LLM의 컨텍스트로 주입하는 기술. 에이전트 메모리에서는 과거 대화 기록을 검색하여 문맥을 유지하는 데 사용된다.
벡터 데이터베이스(Vector Database): — 데이터를 고차원 벡터로 변환하여 저장하고 유사도 검색을 수행하는 데이터베이스. 에이전트의 장기 기억을 저장하고 검색하는 핵심 인프라로 사용된다.
에이전트 메모리(Agent Memory): — AI 에이전트가 과거의 상호작용이나 정보를 저장하고 필요할 때 참조하는 기능. 버퍼, 요약, RAG 등 다양한 전략을 통해 구현된다.

Qdrant추천

벡터 데이터베이스

pgvector추천

벡터 데이터베이스