Kremis: Rust 기반의 결정론적 그래프 인지 기질 및 LLM 할루시네이션 검증 도구

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

LLM의 할루시네이션과 불투명한 추론 과정은 신뢰성 있는 AI 시스템 구축의 주요 장애물이다. Kremis는 이를 해결하기 위해 Rust로 작성된 최소한의 결정론적 그래프 기반 인지 기질을 제안한다. 이 시스템은 외부 신호를 구조화된 관계 데이터로 기록하고, LLM의 주장이 실제 데이터에 근거하는지 검증하는 기능을 수행한다. 모든 결과는 그래프 경로로 추적 가능하며, ACID 트랜잭션을 지원하는 내장 데이터베이스를 통해 데이터 안정성을 보장한다.

배경

Rust 프로그래밍 언어 (1.89+), 그래프 데이터베이스의 기본 개념, LLM 할루시네이션 및 RAG에 대한 이해

대상 독자

LLM의 신뢰성을 개선하고자 하는 AI 엔지니어 및 Rust 기반 데이터 도구 개발자

의미 / 영향

Kremis는 LLM의 확률적 특성을 보완하는 결정론적 지식 계층을 제공함으로써, 금융이나 의료와 같이 정확성이 필수적인 도메인에서 AI 도입의 장벽을 낮출 수 있다. 특히 MCP 지원을 통해 에이전트가 스스로 지식을 검증하는 워크플로우가 확산될 것으로 보인다.

섹션별 상세

Kremis는 할루시네이션, 불투명성, 근거 부족, 비결정론이라는 LLM의 네 가지 핵심 문제를 해결하기 위해 설계됐다. 모든 결과는 실제 입력된 신호로 역추적 가능하며, 데이터가 없을 경우 명시적으로 '찾을 수 없음'을 반환하여 허위 정보 생성을 방지한다.

시스템 아키텍처는 순수 Rust로 작성된 결정론적 엔진인 kremis-core와 HTTP 서버 및 CLI를 제공하는 앱 레이어로 구성된다. 내장 데이터베이스인 redb를 사용하여 ACID 트랜잭션을 지원하며, 충돌 시에도 데이터 안전성을 유지하는 설계를 채택했다.

rust

let mut session = Session::new();
let signal = Signal::new(
    EntityId(1),
    Attribute::new("name"),
    Value::new("Alice"),
);
let node_id = session.ingest(&signal)?;

Rust API를 사용하여 새로운 신호(Signal)를 그래프에 입력하는 코드

Honesty Demo 기능을 통해 LLM이 생성한 문장들을 개별적으로 검증한다. LLM이 'Alice는 MIT 박사 학위가 있다'라고 주장할 때, Kremis 그래프에 해당 정보가 없으면 이를 'NOT IN GRAPH'로 분류하여 사용자가 할루시네이션을 즉시 식별하게 한다.

bash

curl -X POST http://localhost:8080/query \
  -H "Content-Type: application/json" \
  -d '{"type": "lookup", "entity_id": 1}'

Kremis 서버에 특정 엔티티 ID를 조회하는 쿼리 예시

MCP(Model Context Protocol) 서버를 지원하여 Claude와 같은 AI 어시스턴트가 Kremis 지식 그래프에 직접 접근할 수 있다. 이를 통해 에이전트는 도구 사용(Tool Use) 기능을 통해 그래프를 조회, 횡단, 경로 탐색하며 구조화된 지식을 활용한다.

python

[FACT] Alice is an engineer. ← Kremis: "engineer"
[FACT] Alice works on the Kremis project. ← Kremis: "Kremis"
[NOT IN GRAPH] Alice holds a PhD from MIT. ← Kremis: None

Honesty Demo를 통한 LLM 답변의 사실 여부 검증 결과 예시

결정론적 설계를 위해 코어 로직에서 부동 소수점 연산이나 무작위성을 완전히 배제했다. 동일한 입력 신호에 대해 항상 동일한 그래프 구조와 쿼리 결과를 보장함으로써 시스템의 신뢰성을 극대화했다.

실무 Takeaway

LLM의 답변 신뢰성을 높이기 위해 Kremis의 결정론적 그래프를 검증 레이어로 활용하여 할루시네이션을 실시간으로 차단할 수 있다.
MCP 서버 기능을 통해 Claude와 같은 AI 에이전트가 Kremis에 저장된 구조화된 지식을 직접 조회하고 복잡한 관계를 추론하게 할 수 있다.
Rust와 redb를 결합하여 임베디드 환경에서도 데이터 유실 걱정 없이 안전하고 빠른 지식 저장 및 검색 시스템을 구축할 수 있다.

언급된 리소스

GitHubKremis GitHub Repository