장기 LLM 메모리와 컨텍스트 관리를 위한 ContextForge 논문 및 구현 공개

이 글은 장기 LLM 메모리와 컨텍스트 관리를 다루는 논문과 그 구현인 ContextForge를 공개한 내용이다. 핵심은 전체 상호작용 기록을 이어붙이는 방식이 아니라 각 스텝에서 필요한 최소 관련 컨텍스트만 재구성하는 '작업 세트' 접근을 사용하여 긴 런에서의 일관성과 토큰·지연 안정성을 확보한 점이다. 저자는 구현 코드를 공개하고 장기 실험 결과를 제시하여 실무 적용 가능성을 뒷받침했다.

시스템 구조 측면에서는 LLM Wiki라는 구조화된 지속 저장소 계층을 추가하여 평탄 로그의 한계를 완화했다. 이 계층은 지식을 엔트리화하고 질의 가능한 인덱스를 유지하여 결정 추적과 모순 해결에서 일관성을 개선했으며, 실험은 로컬 SQLite 기반 메모리와 llama.cpp·vLLM 연동으로 재현 가능하게 구성됐다. 평가에는 RecallBench와 자체 확장 런(예: 180일·500일)이 사용되었고, RecallBench는 최대 약 1000일 규모의 합성 타임라인을 통해 시간 추론·결정 추적·모순 해결 등 장기 실패 모드를 측정한다.

따라서 긴 기간 운영이 필요한 애플리케이션에서는 컨텍스트를 작업 세트로 재구성하고 구조화된 저장소를 도입하는 접근이 유효한 대안으로 제시된다. 이 접근은 장기 신뢰성 검증을 위해 RecallBench와 같은 장기 중심 벤치마크를 포함한 평가가 필요함을 함께 제시한다. 다만 저자 자신이 메모리 문제를 완전히 해결한다고 주장하지는 않았고 추가 장기 관찰과 확장 검증이 필요함이 명시돼 있다.