오픈소스 AI 어시스턴트의 세 가지 메모리 아키텍처 비교 분석

실용적 조언

장기적으로 신뢰할 수 있는 AI 어시스턴트를 구축하려면 자동 저장보다는 사용자가 검증한 정보를 지식 베이스에 축적하는 구조를 채택하라.
RAG 기반 메모리를 설계할 때는 정보의 최신성을 구분할 수 있는 메타데이터 필터링 로직을 반드시 포함하라.

섹션별 상세

Hermes는 메모리를 자동으로 저장하고 스스로의 성능을 평가하여 보관 여부를 결정하는 방식을 취한다. 시스템이 자신의 출력을 긍정적으로 평가하는 경향이 있어 잘못된 패턴이 강화되고 오류가 보이지 않게 되는 자기 강화의 부작용이 발생한다. 실제 사용 시 이러한 자동화된 평가 로직이 오히려 시스템의 품질을 저하시키는 요인이 된다.

Vellum은 어시스턴트가 관리하는 개인 지식 베이스를 통해 메모리를 처리하며 모든 기록 단계에서 사용자의 명시적 승인을 요구한다. 사용자가 확인한 정보만 저장되므로 시간이 지나도 시스템이 왜곡되지 않고 사용자의 선호도와 업무 맥락을 정확히 학습하는 자가 개선 시스템으로 작동한다. 이는 단순한 자동 저장보다 데이터의 신뢰성을 확보하는 데 유리한 구조이다.

OpenClaw는 유사도 기반의 검색 메모리 방식을 사용하며 그 위에 수동으로 작성된 스킬 파일 레이어를 둔다. 초기에는 효율적으로 작동하지만 시간이 흐를수록 과거의 낡은 정보와 최신 정보가 동일한 유사도로 검색되어 결과값에 노이즈가 심해지는 현상이 나타난다. 검색 기반 아키텍처의 고질적인 문제인 데이터 드리프트 현상을 수동 레이어만으로는 해결하기 어렵다는 점이 확인됐다.

용어 해설

메모리 아키텍처(Memory Architecture): — AI 어시스턴트가 과거의 대화 내용이나 사용자 정보를 저장하고 필요할 때 다시 불러오는 구조이다. 단순 저장을 넘어 정보의 중요도를 판단하고 최신성을 유지하는 방식에 따라 시스템의 장기적 성능이 결정된다.
검색 기반 메모리(Retrieval-based Memory): — 사용자의 질문과 유사한 과거 데이터를 벡터 검색 등을 통해 찾아내어 컨텍스트로 주입하는 방식이다. 초기 구현은 쉽지만 시간이 지날수록 오래된 정보와 최신 정보가 섞여 노이즈가 발생하는 한계가 있다.
지식 베이스(Knowledge Base): — AI가 참조할 수 있도록 구조화된 정보의 저장소이다. 이 게시물에서는 사용자의 명시적 승인을 거쳐 저장된 개인화된 데이터 집합을 의미하며 시스템의 일관성을 유지하는 핵심 요소로 쓰인다.

언급된 도구

Hermes비추천

자동 평가 기반 메모리 시스템을 갖춘 AI 어시스턴트

Vellum추천

사용자 승인 기반 지식 베이스 관리 AI 어시스턴트

OpenClaw중립

유사도 검색 기반 메모리 아키텍처를 사용하는 AI 어시스턴트