핵심 요약
대형 언어 모델(LLM)의 고질적인 문제인 환각과 불투명성을 해결하기 위해 Kremis가 개발되었다. Kremis는 Rust로 구현된 최소한의 결정론적 그래프 기반 인지 기질로, 경험적 신호로부터 구조적 관계를 기록하고 검색하는 메커니즘을 제공한다. 이 시스템은 자체적인 이해 능력을 갖추는 대신 처리된 신호의 구조만을 저장하며, 모든 결과는 입력된 데이터 경로로 추적 가능하다. 이를 통해 LLM의 주장을 검증하고 데이터의 무결성을 유지하는 신뢰할 수 있는 지식 베이스 역할을 수행한다.
배경
Rust 프로그래밍 기초, 그래프 데이터 구조 이해, LLM 및 RAG 개념
대상 독자
LLM 환각 방지 및 데이터 추적성이 중요한 엔터프라이즈 AI 개발자 및 Rust 기반 시스템 엔지니어
의미 / 영향
Kremis는 단순한 데이터베이스를 넘어 LLM의 인지적 기질 역할을 수행하며, AI 시스템의 신뢰성을 정량적으로 측정하고 제어할 수 있는 새로운 표준을 제시한다. 특히 금융이나 의료와 같이 사실 관계가 엄격해야 하는 분야에서 LLM 도입의 기술적 장벽을 낮출 것으로 기대된다.
섹션별 상세
Kremis는 환각 방지와 투명성 확보를 설계의 최우선 가치로 둔다. 모든 검색 결과는 그래프 내의 실제 경로로 역추적할 수 있으며, 데이터가 없는 경우 명확하게 '찾을 수 없음'을 반환하여 모델이 정보를 지어내는 것을 방지한다. 블랙박스 구조가 없는 완전한 검사 가능 상태를 유지함으로써 사용자는 시스템이 왜 특정 답변을 도출했는지 명확히 파악할 수 있다.
기술적으로는 Rust 1.89+ 버전을 기반으로 하며 결정론적 동작을 보장한다. 핵심 엔진에는 무작위성이나 부동 소수점 연산이 포함되지 않아 동일한 입력에 대해 항상 동일한 출력을 생성한다. 또한 redb 임베디드 데이터베이스를 사용하여 ACID 트랜잭션을 지원하며, 시스템 충돌 시에도 데이터 손실이 없는 안전한 설계를 채택했다.
LLM과의 통합을 위해 MCP(Model Context Protocol) 서버 기능을 제공한다. 이를 통해 Claude와 같은 AI 어시스턴트가 지식 그래프와 직접 상호작용하며 정보를 조회하거나 새로운 신호를 주입할 수 있다. 제공되는 9가지 도구를 통해 에이전트는 그래프 탐색, 경로 찾기, 속성 조회 등의 복잡한 작업을 수행하며 실시간으로 지식을 확장하고 검증한다.
정직성 데모(Honesty Demo)를 통해 LLM의 주장을 실시간으로 검증하는 성능을 입증한다. LLM이 특정 인물이나 프로젝트에 대해 설명할 때, Kremis는 그래프에 저장된 사실(Fact)과 그래프에 없는 내용(Not in Graph)을 구분하여 표시한다. 이 과정에서 LLM이 지어낸 허구의 경력이나 학위 정보 등을 효과적으로 걸러내어 시스템의 신뢰도를 높인다.
실무 Takeaway
- LLM의 환각 문제를 해결하기 위해 벡터 검색 기반의 RAG 대신 구조적 관계를 명확히 정의하는 그래프 기반 접지 방식을 도입한다.
- Rust와 redb를 활용하여 고성능, 결정론적 동작, 데이터 안전성(ACID)을 동시에 확보한 경량 지식 엔진을 구축한다.
- MCP 표준을 준수하여 기존 AI 에이전트 워크플로우에 지식 그래프 기능을 손쉽게 통합하고 확장할 수 있다.
언급된 리소스
GitHubKremis GitHub Repository
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료