LangChain 윈도우 메모리의 한계를 극복하는 장기 에이전트용 메모리 라이브러리: agent-memory-core

실용적 조언

장기 에이전트 구축 시 단순 벡터 검색 대신 크로스 인코더를 활용한 재순위화 단계를 추가하여 검색 정확도를 높여라.
사용자 정보가 수시로 변하는 환경이라면 엔티티 그래프를 통해 정보 간의 모순 관계를 추적하는 것이 유리하다.

섹션별 상세

LangChain의 기본 윈도우 메모리 방식은 장기 운영 에이전트에서 심각한 정보 유실 문제를 야기한다. ConversationBufferWindowMemory(k=10) 설정 시 10턴 이전의 사용자 선호도 변화나 중요한 사실이 삭제되어 최신 윈도우 내의 파편화된 정보로만 답변하게 된다. AMB 벤치마크 결과, 이러한 방식은 세션 간 쿼리 수행 능력이 1.8/10 수준으로 매우 낮게 나타났다. 이는 에이전트가 과거의 맥락을 전혀 파악하지 못하고 환각을 일으키는 주요 원인이 된다.

agent-memory-core는 단순 검색을 넘어 크로스 인코더 재순위화와 야간 통합 기능을 통해 메모리 품질을 유지한다. 검색 시 단순 코사인 유사도뿐만 아니라 최신성과 중요도를 기준으로 결과를 재정렬하며, 매일 밤 로컬 Ollama 모델을 사용해 세션 메모리를 영구적 사실로 압축한다. 이 과정을 통해 에이전트는 시간이 지날수록 노이즈는 줄이고 핵심적인 의미 정보만 남기게 된다. 실제 벤치마크에서 이 시스템은 9.01/10의 종합 점수를 기록하며 성능 우위를 입증했다.

python

from agent_memory_core import MemoryStore
store = MemoryStore()
# In your agent loop -- add turns as they happen
store.add(user_message, type="session", source="conversation")
store.add(agent_response, type="session", source="conversation")
# Retrieve at query time
context = store.search(user_query, n=5)

agent-memory-core 라이브러리를 사용하여 대화 턴을 저장하고 쿼리 시 관련 컨텍스트를 검색하는 예시

엔티티 그래프와 작업 메모리 버퍼를 도입하여 데이터 간의 관계와 현재 목표를 체계적으로 관리한다. 엔티티 간의 모순(contradicts)이나 확장(extends) 관계를 추적하여 검색 시 관련 정보의 가중치를 조절한다. 또한 Miller의 법칙에 따라 7개의 슬롯을 가진 작업 메모리 버퍼를 디스크에 상주시켜 프로세스 재시작 후에도 현재 목표와 차단 요소를 유지한다. 이러한 구조는 에이전트가 복잡한 다중 세션 작업을 수행할 때 일관성을 유지하도록 돕는다.

용어 해설

슬라이딩 윈도우 메모리(Sliding Window Memory): — 대화의 최근 K개 턴만 유지하고 오래된 대화는 삭제하는 방식이다. 구현이 간단하지만 장기적인 문맥이나 과거의 중요한 사실을 유지하지 못해 장기 에이전트 구현에 한계가 있다.
크로스 인코더 재순위화(Cross-Encoder Re-ranking): — 검색된 결과물들을 질문과의 연관성을 기준으로 다시 정렬하는 기법이다. 단순 코사인 유사도보다 정확도가 높으며, 최신성과 중요도를 반영하여 최적의 컨텍스트를 선택하는 데 사용된다.
엔티티 그래프(Entity Graph): — 데이터 내의 개체(Entity) 간 관계를 노드와 엣지로 표현한 구조이다. 개체 간의 모순이나 확장 관계를 추적하여 검색 시 관련 정보의 중요도를 계산하는 데 활용된다.

코드 예제

bash

pip install agent-memory-core

라이브러리 설치 명령어

언급된 도구

agent-memory-core추천링크

장기 에이전트를 위한 로컬 메모리 관리 라이브러리

Ollama추천

로컬 LLM 실행 및 메모리 압축용 추론 엔진

ChromaDB추천

로컬 벡터 데이터베이스 저장소

언급된 리소스

GitHubagent-memory-core GitHub Repository