프로덕션 LLM 에이전트를 위한 장기 기억 관리 메커니즘: 감정 태그 및 토큰 경제 시스템

작성자가 제안한 감정 태그 회상 방식에 대해 긍정적인 관심이 있으며, 특히 시간 경과에 따른 가치 감쇠 함수와 코드 도메인 외에서의 범용성에 대한 논의가 이루어지고 있다.

• 메모리 비대화가 문제라면 Surprisal 기반의 게이팅을 도입하여 중복 데이터 저장을 억제하라.
• 에이전트의 반복적인 실수를 줄이고 싶다면 사용자 피드백을 음수 가중치로 메모리에 기록하여 검색 순위를 낮춰라.

Affect-tagged Recall

— 메모리 항목에 상호작용 결과에 따른 가치(Valence) 점수를 부여하고, 검색 시 시맨틱 유사도와 함께 이 점수를 반영하여 순위를 조정하는 기법이다. 명시적인 보상 모델 없이도 과거의 실패 패턴을 피하고 성공 패턴을 우선시하는 행동 적응을 유도한다.

Surprisal Gating

— 기존 메모리 코퍼스와 비교하여 새로운 정보의 참신함(Surprisal)을 측정하고, 중복되거나 유사한 정보의 저장 비용을 높게 책정하는 제어 메커니즘이다. 이를 통해 에이전트가 제한된 예산 내에서 진정으로 새로운 정보만 우선적으로 저장하도록 강제한다.

ACT-R

— 인간의 인지 과정을 모델링하기 위한 이론적 프레임워크로, 기억의 활성화가 네트워크를 통해 확산되는 방식을 설명한다. 본 시스템에서는 단순 코사인 유사도 대신 이 이론을 응용한 확산 활성화(Spreading Activation)를 메모리 그래프 검색에 사용한다.

HDC

— 매우 높은 차원의 벡터를 사용하여 정보를 표현하고 연산하는 기법으로, 인지적 상태나 관계를 효율적으로 처리할 수 있다. 에이전트 시스템 내에서 인지 상태 라우팅을 위한 벡터 표현 방식으로 활용된다.

MCP

— AI 모델이 외부 데이터 소스나 도구와 상호작용할 수 있도록 표준화된 인터페이스를 제공하는 프로토콜이다. 이를 통해 다양한 환경에서 에이전트의 메모리 시스템을 독립적으로 운영할 수 있다.