로컬 우선 AI 에이전트 Birkin: 벡터 DB 대신 위키 메모리 활용

섹션별 상세

기존의 벡터 DB 기반 검색 방식 대신 대화 내용을 위키 페이지로 컴파일하는 메모리 구조를 채택했다. LLM 분류기가 대화 내용을 구조화된 페이지로 변환하고 위키 링크로 연결하여 지식 그래프를 형성한다. 이 방식은 단순 유사도 검색보다 맥락 유지에 유리하다.

메모리 효율을 위해 confidence × reference_count × exp(-0.05 × days)라는 감쇠 공식을 적용했다. 참조가 잦은 정보는 강화되고 오래된 정보는 자연스럽게 감쇠된다. 약 20일의 반감기를 통해 에이전트의 지식 베이스를 최신 상태로 유지한다.

토큰 효율성을 극대화하기 위해 약 200토큰 규모의 컴팩트한 인덱스를 프롬프트에 상시 주입한다. 전체 페이지 내용은 wiki_read 도구를 통해 필요한 시점에만 로드한다. 이는 컨텍스트 윈도우가 제한적인 로컬 모델 환경에서 특히 효과적이다.

47개의 노드 타입과 크론 트리거를 포함한 워크플로 엔진을 통해 반복적인 패턴을 감지하고 자동화를 제안한다. 시각적 편집기를 통해 사용자가 에이전트의 동작을 직접 설계할 수 있다.

언급된 도구

Birkin추천

로컬 우선 AI 에이전트 및 위키 기반 메모리 시스템

Ollama추천

로컬 모델 실행을 위한 추론 엔진

언급된 리소스

GitHubBirkin GitHub Repository