시간 감쇠 및 중요도 기반 자동 프루닝을 적용한 에이전트 AI 영구 메모리

커뮤니티 반응

대체로 긍정적이며, 에이전트의 장기 기억 관리 문제에 대한 새로운 접근 방식에 관심을 보였다.

합의점 vs 논쟁점

합의점

에이전트 AI에서 영구 메모리 관리와 데이터 프루닝은 해결해야 할 핵심 과제이다
단순 시간 기반 삭제보다 중요도와 재소환 횟수를 고려한 방식이 더 효율적이다

실용적 조언

pip install yourmemory를 통해 에이전트 AI 프로젝트에 즉시 적용 가능하다
사실 데이터에는 높은 중요도를, 가정 데이터에는 낮은 중요도를 부여하여 메모리 효율을 최적화할 수 있다

섹션별 상세

에이전트 AI 프레임워크에서 영구 메모리 계층 구축 시 발생하는 데이터 프루닝 문제를 해결하기 위해 인간의 기억 메커니즘을 모방한 수식을 도입했다. 에빙하우스 망각 곡선 이론을 기반으로 설계된 Strength = importance × e^(−λ_eff × days) × (1 + recall_count × 0.2) 공식은 각 메모리의 유지 가치를 동적으로 계산한다. 이 수식은 초기 중요도와 시간 흐름에 따른 감쇠, 그리고 재소환 횟수를 결합하여 데이터의 생존 여부를 결정한다. 이를 통해 불필요한 데이터를 자동으로 제거하면서도 핵심 정보는 장기 보관할 수 있는 효율적인 메모리 관리 구조를 구현했다.

python

Strength = importance * e^(-lambda_eff * days) * (1 + recall_count * 0.2)

메모리의 강도를 계산하여 유지 여부를 결정하는 핵심 공식

메모리 강도 계산의 핵심 요소인 중요도는 데이터 저장 시점에 사실에는 높은 점수를, 가정에는 낮은 점수를 부여하는 방식으로 정의된다. 시간 감쇠 항인 e^(−λ_eff × days)는 정의된 카테고리에 따라 감쇠율을 다르게 적용하여 정보의 성격에 맞는 망각 속도를 조절한다. 또한 (1 + recall_count × 0.2) 항을 통해 특정 정보가 다시 조회될 때마다 메모리 강도를 보강하여 자주 쓰이는 정보가 삭제되지 않도록 설계했다. 이러한 동적 가중치 시스템은 단순한 벡터 검색의 한계를 보완하여 에이전트의 인지 능력을 향상시킨다.

제안된 시스템의 성능 검증을 위해 LoCoMo 데이터셋을 활용하여 기존의 유명 메모리 관리 시스템인 Mem0 및 Zep과 벤치마크 테스트를 진행했다. 평가 지표로 Recall@5를 사용한 결과, 기존 시스템들을 상회하는 성능을 기록했음을 확인했다. 검색 방식으로는 코사인 유사도를 사용하여 벡터 공간에서의 효율적인 정보 추출을 지원하며, 작성자는 해당 구현체를 GitHub에 공개했다. 사용자는 pip install yourmemory 명령어를 통해 즉시 라이브러리를 설치하고 자신의 에이전트 프로젝트에 적용할 수 있다.

용어 해설

에빙하우스 망각 곡선(Ebbinghaus Forgetting Curve): — 시간이 지남에 따라 학습한 내용을 잊어버리는 속도를 나타내는 가설이다. AI 메모리 관리에서는 정보의 신선도와 중요도를 판단하여 오래된 정보를 삭제하거나 가중치를 낮추는 알고리즘의 기초가 된다.
코사인 유사도(Cosine Similarity): — 두 벡터 간의 각도 코사인을 사용하여 유사성을 측정하는 방식이다. LLM 기반 검색에서 질문 벡터와 가장 유사한 메모리 벡터를 찾아내는 데 핵심적으로 사용된다.
Recall@k: — 상위 k개의 검색 결과 중 정답이 포함된 비율을 나타내는 평가 지표이다. 이 글에서는 Recall@5를 사용하여 메모리 시스템의 검색 정확도를 벤치마킹했다.

언급된 도구

Mem0중립

AI 에이전트용 메모리 계층

Zep중립

LLM 앱용 장기 기억 저장소

언급된 리소스

GitHubsachitrafa/cognitive-ai-memory GitHub