에이전트의 의사결정 기억을 위한 구조화된 인과관계 탐색 기법: Core Memory

실용적 조언

에이전트가 과거의 결정을 기억해야 한다면 텍스트 청크 대신 '결정-증거-결과'가 연결된 그래프 구조로 저장하라.
토큰 비용을 절감하려면 컨텍스트 주입 시 전체 텍스트 대신 요약된 메타데이터(ID, 타입, 제목) 위주로 구성하라.

섹션별 상세

기존 RAG 방식은 대화 기록을 단순 텍스트 청크로 취급하여 의미적으로 가장 유사한 조각을 가져오지만, 실제 의사결정이 이루어진 논리적 경로는 파악하지 못한다. 예를 들어 특정 기술 선택 이유를 물었을 때 RAG는 일반적인 장점을 답변으로 내놓지만, 실제로는 특정 테스트 결과에 기반한 구체적인 판단 과정이 존재한다. 이러한 정보의 격차는 에이전트의 신뢰성을 떨어뜨리는 주요 원인이 된다.

의사결정을 텍스트 청크가 아닌 결정, 증거, 결과가 연결된 구조화된 이벤트인 'Bead' 단위로 저장하는 방식을 제안했다. 에이전트가 질문을 받으면 의미적 일치 대신 인과관계 그래프를 탐색하여 관련 컨텍스트를 추출한다. 이 방식은 데이터 간의 논리적 연결성을 유지하므로 에이전트가 과거의 판단 근거를 정확하게 재구성할 수 있도록 돕는다.

정보를 ID, 타입, 제목, 연관성으로 압축하여 저장함으로써 제한된 토큰 예산 내에서 더 많은 대화 맥락을 유지할 수 있다. 실제 테스트 결과 10,000 토큰의 예산으로 약 10~12 세션 분량의 히스토리를 성공적으로 주입하는 성과를 거두었다. 이는 전체 대화 기록을 읽지 않고도 필요한 핵심 맥락을 효율적으로 모델에 전달하는 방법론적 대안을 제시한다.

제안된 시스템은 전통적인 문서 검색용 RAG 벡터 DB와 병행하여 사용할 수 있으며 에이전트가 도구를 통해 두 저장소를 적절히 활용한다. 작성자는 이 기법이 모든 기억 문제의 정답은 아니지만, 의사결정 논리 복원이라는 특정 문제에 대해서는 매우 안정적인 성능을 보였다고 평가했다. 현재 해당 프로젝트는 오픈소스로 공개되어 PydanticAI, LangChain 등 주요 프레임워크용 어댑터를 제공한다.

용어 해설

시맨틱 검색(Semantic Search): — 단어의 사전적 의미가 아닌 문맥적 의미와 의도를 파악하여 유사한 정보를 찾는 기술이다. 벡터 공간에서 데이터 간의 거리를 계산하여 가장 가까운 정보를 추출하지만, 인과관계나 논리적 흐름을 완벽히 파악하지 못하는 한계가 있다.
인과관계 탐색(Causality Traversal): — 단순한 의미적 유사성이 아닌 사건의 발생 원인과 결과, 즉 논리적 연결 고리를 따라 데이터를 추적하는 방식이다. 의사결정의 근거와 과정을 구조화된 이벤트로 저장하여 에이전트가 과거의 판단 이유를 정확히 재구성할 수 있게 한다.
컨텍스트 윈도우(Context Window): — LLM이 한 번에 처리할 수 있는 텍스트 데이터의 최대 범위를 의미한다. 본문에서는 핵심 정보만 압축하여 저장하는 방식을 통해 제한된 토큰 예산 내에서 더 많은 과거 대화 기록을 모델에 주입하는 효율성을 강조한다.

언급된 도구

Core Memory추천링크

에이전트의 의사결정 히스토리를 구조화된 이벤트로 저장하고 인과관계 기반으로 검색하는 도구

PydanticAI중립

Core Memory 연동을 위한 어댑터가 제공되는 AI 프레임워크

LangChain중립

Core Memory 연동을 위한 어댑터가 제공되는 AI 프레임워크

언급된 리소스

GitHubCore-Memory GitHub Repository

DemoCore-Memory Demo App