LLM 에이전트를 위한 파일 기반 장기 기억 시스템, KHMS

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

KHMS는 LLM 에이전트가 세션 간 지식을 영구적으로 보존하고 신뢰할 수 있는 추론을 수행하도록 돕는 파일 기반 장기 기억 시스템이다. Git 저장소 내 마크다운 파일과 YAML frontmatter를 사용하여 지식을 불변 카드 형태로 관리하며, 수정이나 삭제 대신 반박과 대체라는 명시적 이력 관리 방식을 채택했다. 제안-검토-승인 파이프라인과 훅 기반의 자동 주입 기능을 통해 에이전트의 반복적인 실수를 방지하고 정보의 출처와 신뢰 수준을 체계적으로 추적한다.

섹션별 상세

LLM 에이전트는 세션이 종료되면 이전의 교훈을 잊거나, 벡터 데이터베이스 기반의 메모리로는 정보의 출처와 신뢰도를 추적하기 어렵다. 기존 RAG 방식은 텍스트 검색에 치중하여 '무엇이 측정되었고 무엇이 반박되었는지'와 같은 지식의 맥락을 보존하지 못하는 한계가 있다.

KHMS는 Git 저장소 내의 마크다운 파일로 지식을 관리하는 파일 기반 장기 기억 시스템이다. 모든 지식은 YAML frontmatter가 포함된 불변 카드 형태로 저장되며, 수정이나 삭제 대신 새로운 카드가 이전 카드를 대체하거나 반박하는 방식을 취하여 지식의 이력을 보존한다.

시스템은 제안, 검토, 승인의 파이프라인을 통해 지식을 관리한다. 백그라운드 작업이 지식을 제안하면 검토 과정을 거쳐 승인된 내용만 지식 디렉토리에 기록되며, 훅을 통해 에이전트가 요청하기 전 관련 카드를 세션에 자동으로 주입한다.

지식에는 측정, 관찰, 보고와 같은 신뢰 수준이 명시된다. 이를 통해 에이전트는 단순히 텍스트를 검색하는 것을 넘어, 정보의 근거와 파생 관계를 기반으로 더 신뢰할 수 있는 추론을 수행할 수 있다.

용어 해설

검색 증강 생성(RAG): — 외부 데이터를 검색하여 LLM의 컨텍스트로 주입하는 기술이다. KHMS는 단순 텍스트 검색을 넘어 지식의 신뢰도와 출처를 관리하는 방식으로 기존 RAG의 한계를 보완한다.
인식론적 수준(Epistemic Levels): — 지식의 근거와 신뢰도를 분류하는 체계이다. 측정됨, 관찰됨, 보고됨 등으로 지식의 성격을 구분하여 에이전트가 정보의 확실성을 판단하도록 돕는다.
YAML 프론트매터(YAML Frontmatter): — 마크다운 파일 상단에 위치한 메타데이터 영역이다. KHMS에서는 지식의 유형, 증거 수준, 출처 등을 정의하는 데 사용된다.