Claude Code의 할루시네이션을 방지하는 Rust 기반 메모리 서버 'Engram' 공개

실용적 조언

Claude Code 사용 시 세션별로 정보를 잃지 않도록 커스텀 훅을 작성하여 메모리 동기화를 자동화하라.
민감한 자격 증명은 AI에게 직접 노출하지 말고 별도의 암호화 데몬을 통해 관리하라.

섹션별 상세

Claude가 증거 없이 서버 IP나 설정 경로를 날조하는 문제를 해결하기 위해 Rust 기반의 Engram 메모리 서버를 구축했다. 사용자가 Claude Code 훅을 사용하여 세션 시작 시 메모리 검색을 강제하고 종료 시 학습 내용을 저장하도록 프로세스를 자동화했다. 이를 통해 Claude가 과거의 결정, 수정 사항, 프로젝트 컨벤션을 기억하게 하여 동일한 실수를 반복하지 않도록 설계했다.

데이터 보안과 효율성을 위해 ONNX를 활용한 로컬 임베딩 시스템을 구현했다. 외부 클라우드 호출이나 OpenAI 키 없이도 로컬에서 벡터 검색이 가능하며, SQLCipher를 통한 암호화와 YubiKey 잠금 해제 기능을 지원한다. 또한 FSRS-6 알고리즘을 적용하여 자주 사용되는 기억은 유지하고 불필요한 정보는 도태시키는 간격 반복 메커니즘을 도입했다.

지식 그래프 아키텍처를 도입하여 관련 기억을 자동으로 연결하고 정보 간의 모순을 감지한다. '서버를 재부팅하지 마라'와 같은 가드레일 규칙을 데이터베이스에 저장하고, Claude가 작업을 수행하기 전 반드시 이를 검색하도록 강제한다. 이를 통해 단순한 코드 기반 RAG를 넘어 AI에게 장기적이고 일관된 인프라 이해도를 제공한다.

로컬 사이드카 프로세스를 통해 로컬 LLM이 자동으로 정보를 저장하고 호출하며, 토큰 사용량을 줄이기 위한 도구 압축 기능을 제공한다. 작성자는 1,800개 이상의 메모리를 축적한 결과, Claude가 새로운 문제에는 실패할지언정 기존에 해결했던 인프라 관련 설정 오류는 더 이상 범하지 않는다는 실무적 효용을 확인했다.

용어 해설

개방형 신경망 교환(ONNX): — 서로 다른 AI 프레임워크 간에 모델을 공유할 수 있게 해주는 오픈소스 포맷이다. 이 프로젝트에서는 로컬 환경에서 임베딩 모델을 실행하여 외부 API 호출 없이 데이터를 처리하고 보안을 유지하는 데 사용된다.
자유 간격 반복 스케줄링(FSRS-6): — 망각 곡선 이론에 기반하여 정보의 복습 간격을 최적화하는 알고리즘이다. 자주 사용되는 기억은 강화하고 오래된 불필요한 정보는 점진적으로 제거하여 AI의 메모리 효율성을 극대화한다.
SQL사이퍼(SQLCipher): — SQLite 데이터베이스를 위한 투명한 256비트 AES 암호화 확장 기능이다. AI가 저장하는 서버 IP, 자격 증명 등 민감한 정보를 로컬 저장소에서 안전하게 보호하는 역할을 한다.
지식 그래프(Knowledge Graph): — 개체 간의 관계를 네트워크 형태로 표현하는 데이터 구조이다. 관련 기억을 자동으로 연결하고 모순되는 정보를 포착하여 AI가 인프라에 대한 일관된 이해를 갖도록 돕는다.

언급된 도구

Engram추천링크

Claude를 위한 Rust 기반 로컬 메모리 서버

agent-forge추천

가설 검증 및 과거 실수 추적을 위한 CLI 도구

언급된 리소스

GitHubEngram GitHub Repository