LangChain을 위한 오픈소스 영구 메모리 레이어, Mengram v0.3.0 출시

실용적 조언

기존 LangChain 프로젝트에서 세션 간 메모리 유지가 필요하다면 langchain-mengram 패키지를 설치하여 BaseChatMessageHistory 대신 사용한다.
검색 정확도를 높이기 위해 Cohere reranking 기능을 활성화하여 임베딩 검색의 한계를 보완한다.

섹션별 상세

LangChain의 기본 메모리 시스템인 ConversationBufferMemory는 RAM에 리스트 형태로 저장되어 세션이 종료되면 데이터가 소실되는 휘발성 문제를 가지고 있다. Mengram은 이를 해결하기 위해 세션 간 데이터가 유지되는 영구 저장소 기능을 제공하며, 사용자가 별도의 저장 로직을 구현할 필요 없이 기존 체인에 통합할 수 있도록 설계되었다.

Mengram은 메모리를 세 가지 유형인 Semantic, Episodic, Procedural로 분류하여 관리한다. Semantic 메모리는 대화에서 사실과 엔티티를 추출하고, Episodic은 과거 사건과 결과를 기록하며, Procedural은 피드백을 통해 개선되는 다단계 워크플로우를 저장하여 에이전트의 지능적 대응을 지원한다.

기술적으로 Mengram은 LangChain의 BaseChatMessageHistory와 BaseRetriever를 상속받아 구현되어 드롭인(drop-in) 방식으로 즉시 교체가 가능하다. add_messages() 호출 시 백그라운드에서 메모리 추출 프로세스가 실행되며, 검색 단계에서는 임베딩과 Cohere reranking을 결합하여 관련성 높은 정보를 추출한다.

python

from langchain_mengram import MengramChatMessageHistory, MengramRetriever

# Chat history that auto-extracts memories
def get_history(session_id: str):
    return MengramChatMessageHistory(
        api_key="om-...",
        user_id=session_id,
    )

chain_with_history = RunnableWithMessageHistory(
    chain,
    get_history,
    input_messages_key="input",
    history_messages_key="history",
)

# Retriever for RAG over memories
retriever = MengramRetriever(api_key="om-...", user_id="user-123")
docs = retriever.invoke("what deployment issues did we have?")

Mengram을 사용하여 대화 기록을 자동으로 추출하고 메모리 기반 RAG를 구현하는 예시

용어 해설

의미론적 메모리(Semantic Memory): — 대화 내용에서 사실, 개념, 엔티티(예: 사용자 선호도, 거주지)를 추출하여 저장하는 방식이다. 에이전트가 사용자에 대한 구체적인 정보를 장기적으로 기억하고 개인화된 응답을 제공하는 데 필수적이다.
일화적 메모리(Episodic Memory): — 과거에 발생한 특정 사건과 그에 따른 결과를 시간적 맥락과 함께 저장하는 메커니즘이다. 에이전트가 이전에 겪은 문제나 성공 사례를 참조하여 유사한 상황에서 더 나은 결정을 내리도록 돕는다.
절차적 메모리(Procedural Memory): — 여러 단계로 구성된 워크플로우와 실행 방법을 저장하며, 사용자 피드백을 통해 해당 절차를 스스로 개선하는 메모리 유형이다. 복잡한 작업을 수행하는 에이전트의 효율성을 높이는 데 기여한다.
재순위화(Reranking): — 임베딩 기반 검색으로 추출된 문서 후보군을 더 정교한 모델을 사용하여 질문과의 관련성 순으로 다시 정렬하는 과정이다. 검색 정확도를 극대화하기 위해 주로 Cohere와 같은 외부 API를 활용한다.

언급된 도구

Mengram추천링크

LLM을 위한 오픈소스 영구 메모리 레이어

langchain-mengram추천

Mengram의 LangChain 통합 라이브러리

Cohere중립

검색 결과의 재순위화(Reranking)를 위한 API 제공

언급된 리소스

GitHubMengram GitHub Repository