Agentic Context Management: 에이전트 메모리와 비용을 라이프사이클·아키텍처 관점으로 해결하기

대형 언어모델 기반 에이전트는 추론 능력 자체보다 긴 대화와 도구 출력 등 누적된 컨텍스트를 관리하지 못해 실무에서 실패하는 경우가 흔하다. 토큰 기준 비용이 대화 길이에 따라 제곱적으로 증가하는 문제를 해결하지 않으면 운영 비용과 응답 품질이 동시에 악화된다. 이 논문은 컨텍스트를 단순 저장소로 보는 관점을 벗어나 라이프사이클 설계로 전환하면 비용을 선형으로 유지하면서도 중요한 정보를 손실 없이 보존할 수 있음을 보였다.

문제 출발점은 에이전트가 처리해야 할 문맥의 양과 종류가 다양하고 누적된 히스토리가 모델 입력으로 계속 재전송될 때 토큰 비용과 추론 품질이 동시에 악화된다는 점이다. 풀-어펜드 방식은 각 턴에서 전체 이력을 재전송하므로 대화 길이 n에 대해 누적 입력 토큰이 대략 t·n(n+1)/2로 늘어나며 비용이 O(n^2)로 폭증한다. 반대로 예산 W로 고정하면 비용은 O(n)이 되지만 단순 요약은 필요한 세부를 잃어 정확도가 급락할 수 있다.

해결 원리는 컨텍스트 관리를 일련의 의사결정 라이프사이클로 분해하는 것이다. 먼저 architecting 단계에서 에이전트 목적과 레퍼런스를 입력으로 받아 캡처할 정보 카테고리, 추출 방법, 보존기간, 압축 정책을 에이전트별로 생성한다. 인제스팅 단계는 비동기 큐 기반 파이프라인으로 원시 신호를 카테고리화하고 엔터티·관계·시간적 유효성을 추출하여 벡터·그래프·관계형 저장소에 영속화한다. 스코핑은 좁은 범위 우선(user→customer→client)으로 검색을 해결하고 예산에 맞춰 증거 항목을 정렬·토큰 예산화하며, 그래프 보강 검색은 벡터로 진입한 지점에서 관계를 따라 다중 홉을 탐색해 추론에 필요한 다리 문서를 확보한다. 예상성(anticipation)은 에이전트 행동의 진화를 관찰해 차후 필요할 문맥을 미리 준비하여 검색을 응답 경로의 병목에서 떼어내는 전략이며 검증 가능한 컴팩션은 압축 후 정보 보존 여부를 자동 검증해 기준에 못 미치면 덜 공격적인 압축을 재시도한다.

참고 구현인 Maximem Synap을 Table 2의 구성으로 평가했을 때 LongMemEval에서 92.0%(460/500), LoCoMo(범주 1–4)에서 93.2%를 기록했다. 범주별로는 단일 세션 관련 항목들이 높은 정답률을 보였고 다중 세션을 가로지르는 추론은 잔여 오류가 집중된 가장 어려운 항목으로 남았다. 논문은 성능 수치와 함께 구성 세부(답안 모델 gpt-5-mini, 검사자 gpt-5-mini, 범위 인식 검색 등)를 명시해 재현 가능성을 확보하려고 했다.

전체 아키텍처는 에이전트 연결 시 생성되는 에이전트별 메모리 아키텍처가 중심이다. 이 아키텍처는 캡처할 카테고리, 추출 규칙, 저장소 선택, 컴팩션 정책을 규정하고 downstream 모든 파이프라인의 동작을 제어한다. 핵심 메커니즘으로 비동기 인제스션(큐 기반 다단계 추출·정규화·엔터티 해소), 범위 인식 검색(좁은 범위 우선), 그래프 보강 탐색(벡터 유사도 기반 진입 후 관계 기반 다중 홉 탐색), 예측적 프리페치(에이전트 행동으로부터 미래 필요 문맥을 사전 준비), 및 검증된 컴팩션(압축 후 정보 재현성 검사와 재시도 루프)을 채택한다. 저장소 구성은 폴리글랏으로 벡터 store(임베딩), 그래프 DB(엔터티·관계), 관계형 DB(진실성 소스), 오브젝트 스토어(원본), 시계열 DB(텔레메트리), 인메모리 캐시/큐를 병행해 각 저장소의 역할을 분리했다. 비용 모델 관련 수식은 각 턴에서 추가되는 토큰이 t일 때 풀-어펜드 누적 토큰 C_append = sum_{k=1}^{n} k·t ≈ (t/2)·n^2로 유도되어 O(n^2)임을 보였고, 예산 W로 고정하면 누적 토큰이 n·W로 O(n)임을 수식적으로 정리했다. 반복적 검증 컴팩션 비용은 주기 p와 상대비용 c를 도입해 총 토큰 비용을 N·W·(1+c/p)로 표현해 선형 오버헤드만 발생함을 보였다.

제시한 벤치마크 결과는 정확도 측면을 중심으로 구성·보고되었고 지연(latency)과 실제 토큰 비용 under production load 등 운영 차원의 지표는 본 논문에서 보고되지 않았다. LongMemEval과 LoCoMo는 회상·추론 정확도를 측정하지만 검색 완전성(retrieval sufficiency), 컨텍스트 회전(context rot) 저항성, 그리고 의사결정 수준의 컨텍스트 보존 같은 생산 환경에서 중요한 여러 차원을 포괄하지 않는다. 또한 일부 실험(검색 비교)은 단일 엔진·단일 인덱싱 정책·무청크링 환경에서 수행되어 일반화 한계가 있음을 본문에 명시했다.