프로덕션 LLM 에이전트를 위한 장기 기억 관리 메커니즘: 감정 태그 및 토큰 경제 시스템

실용적 조언

메모리 비대화가 문제라면 Surprisal 기반의 게이팅을 도입하여 중복 데이터 저장을 억제하라.
에이전트의 반복적인 실수를 줄이고 싶다면 사용자 피드백을 음수 가중치로 메모리에 기록하여 검색 순위를 낮춰라.

섹션별 상세

감정 태그 회상 기법은 메모리 항목에 -1.0에서 +1.0 사이의 가치(Valence) 필드를 부여한다. 사용자 수정은 음수, 과업 완료는 양수로 기록되며 검색 시 시맨틱 유사도와 결합되어 순위가 결정된다. 별도의 보상 모델 없이도 과거 실패 패턴을 점진적으로 기피하는 창발적 행동 적응이 확인됐다.

토큰 경제 게이팅은 세션당 인지 토큰 예산을 설정하여 메모리 쓰기 작업을 제한한다. 기존 코퍼스 대비 정보의 새로움(Surprisal)을 측정하여 중복된 내용은 2배의 비용을 부과하고 고유한 정보만 통과시킨다. 이를 통해 에이전트가 장황한 로깅 대신 핵심적인 관찰 정보에 우선순위를 두도록 유도한다.

Surprisal 계산의 효율성을 위해 TurboQuant에서 영감을 받은 int8 압축 임베딩 기술이 적용됐다. float32 기준선 대비 95% 이상의 재현율(Recall) 정확도를 유지하면서 대규모 코퍼스 비교 연산 속도를 높였다. 이는 로컬 환경인 SQLite나 Supabase에서도 원활한 실행을 가능하게 한다.

단순한 평면적 검색을 넘어 ACT-R 이론에 기반한 확산 활성화(Spreading Activation) 모델을 메모리 그래프에 도입했다. 다중 홉 그래프 검색을 통해 연관된 기억들이 네트워크를 타고 활성화되도록 설계됐다. 또한 HDC(초차원 컴퓨팅) 벡터를 활용하여 복잡한 인지 상태의 라우팅을 처리한다.

용어 해설

감정 태그 회상(Affect-tagged Recall): — 메모리 항목에 상호작용 결과에 따른 가치(Valence) 점수를 부여하고, 검색 시 시맨틱 유사도와 함께 이 점수를 반영하여 순위를 조정하는 기법이다. 명시적인 보상 모델 없이도 과거의 실패 패턴을 피하고 성공 패턴을 우선시하는 행동 적응을 유도한다.
서프라이절 게이팅(Surprisal Gating): — 기존 메모리 코퍼스와 비교하여 새로운 정보의 참신함(Surprisal)을 측정하고, 중복되거나 유사한 정보의 저장 비용을 높게 책정하는 제어 메커니즘이다. 이를 통해 에이전트가 제한된 예산 내에서 진정으로 새로운 정보만 우선적으로 저장하도록 강제한다.
ACT-R 인지 아키텍처(ACT-R): — 인간의 인지 과정을 모델링하기 위한 이론적 프레임워크로, 기억의 활성화가 네트워크를 통해 확산되는 방식을 설명한다. 본 시스템에서는 단순 코사인 유사도 대신 이 이론을 응용한 확산 활성화(Spreading Activation)를 메모리 그래프 검색에 사용한다.
초차원 컴퓨팅(HDC): — 매우 높은 차원의 벡터를 사용하여 정보를 표현하고 연산하는 기법으로, 인지적 상태나 관계를 효율적으로 처리할 수 있다. 에이전트 시스템 내에서 인지 상태 라우팅을 위한 벡터 표현 방식으로 활용된다.
모델 컨텍스트 프로토콜(MCP): — AI 모델이 외부 데이터 소스나 도구와 상호작용할 수 있도록 표준화된 인터페이스를 제공하는 프로토콜이다. 이를 통해 다양한 환경에서 에이전트의 메모리 시스템을 독립적으로 운영할 수 있다.

언급된 도구

prism-mcp추천링크

감정 태그 및 토큰 경제 기반의 에이전트 메모리 관리 라이브러리

MCP중립

모델과 외부 도구 간의 연결 프로토콜

SQLite추천

로컬 메모리 저장소

언급된 리소스

GitHubprism-mcp GitHub Repository