RAG의 한계를 넘어서는 '퍼시스턴트 위키' 아키텍처 제안

커뮤니티 반응

작성자가 제시한 '지식의 축적(Compounding Knowledge)' 개념에 대해 매우 긍정적인 반응이며, 특히 Karpathy가 언급한 '지속적 유물(Persistent Artifact)' 부재 문제를 실질적으로 해결했다는 평가가 많다.

주요 논점

01찬성다수

단순 검색보다 구조화된 위키 형태가 LLM의 컨텍스트 활용 능력을 극대화하며 장기적인 지식 관리에 유리하다.

합의점 vs 논쟁점

합의점

기존 RAG의 가장 큰 문제는 질의 간의 컨텍스트 공유가 안 된다는 점이다.
LLM이 직접 마크다운을 생성하고 관리하게 하는 방식이 유연성 면에서 뛰어나다.

논쟁점

Dream Cycle 실행 시 발생하는 API 비용과 대규모 저장소에서의 확장성 문제에 대한 우려가 있다.

실용적 조언

위키 페이지 작성 시 상단에는 최신 요약을, 하단에는 타임스탬프가 찍힌 출처 기록을 배치하여 신뢰성을 높여라.
단순 링크 대신 관계를 명시한 Typed Wikilinks를 사용하여 지식 그래프의 활용도를 높여라.

섹션별 상세

기존 RAG 시스템은 질의 시마다 파편화된 정보를 검색하여 답변을 생성할 뿐, 질의 간의 이해를 누적하지 못하는 한계가 있다. 이를 해결하기 위해 소스 데이터와 사용자 사이에 LLM이 직접 관리하는 마크다운 기반의 구조화된 위키 레이어를 배치했다. LLM은 새로운 소스가 추가될 때마다 기존 위키 페이지를 업데이트하고 개념 간의 모순을 확인하며 지식을 통합한다.

지식의 신뢰성을 확보하기 위해 모든 위키 페이지를 'Compiled Truth'와 'Timeline' 두 섹션으로 분리하여 관리한다. 상단의 Compiled Truth는 최신 증거를 바탕으로 LLM이 재작성하는 현재의 최선 지식이며, 하단의 Timeline은 수정 불가능한 추가 전용(Append-only) 증거 기록이다. 443개 페이지와 26개 소스를 대상으로 한 실험에서 이 구조를 통해 지식의 진화 과정을 투명하게 추적할 수 있음이 확인됐다.

markdown

# WebSocket Authentication
WebSocket auth uses JWT tokens validated during the handshake upgrade.
---
## Timeline
- **2026-04-08** | JSON Web Token validation found in ws_middleware.py [Source: nia-app repo]

Compiled Truth와 Timeline 섹션으로 구분된 위키 페이지 구조 예시

단순한 링크를 넘어 관계의 의미를 정의하는 'Typed Wikilinks'를 도입하여 지식 그래프의 밀도를 높였다. [[Stripe|works_at]]이나 [[React|uses]]와 같이 관계 유형을 명시함으로써 'React를 사용하는 모든 항목 찾기'와 같은 복잡한 쿼리가 가능해졌다. 그래프 시각화 시 관계 유형별로 색상을 구분하여 데이터 간의 논리적 구조를 직관적으로 파악할 수 있게 설계했다.

지식 베이스가 스스로 발전하도록 돕는 'Dream Cycle' 프로세스를 통해 정기적인 자율 최적화를 수행한다. Claude 모델이 전체 저장소를 읽고 미생성된 개체(Entity)를 추출하여 새 페이지를 만들고, 서로 다른 소스 간의 비명시적 연결이나 사실적 모순을 탐지한다. 실제 운영 결과 14개의 누락된 개체를 발견하고 10개의 새 페이지를 자동 생성하는 등 지식 베이스의 지능 수준이 유의미하게 향상됐다.

용어 해설

검색 증강 생성(RAG): — 외부 지식 베이스에서 관련 정보를 검색하여 LLM의 응답 생성에 활용하는 기술이다. 모델의 학습 데이터에 없는 최신 정보나 특정 도메인 지식을 보완하여 답변의 정확도를 높이는 데 필수적이다.
임베딩(Embedding): — 텍스트와 같은 데이터를 고차원 벡터 공간의 수치로 변환하는 과정이다. 의미적으로 유사한 데이터들이 벡터 공간상에서 가깝게 위치하도록 하여 기계가 문맥적 유사성을 계산할 수 있게 한다.
위키링크(Wikilinks): — 문서 간의 상호 참조를 위해 대괄호([[ ]])를 사용하는 하이퍼링크 형식이다. 지식 베이스 내에서 개념 간의 연결망을 구축하여 비선형적인 정보 탐색과 구조화를 가능하게 한다.
개체명 추출(Entity Extraction): — 비정형 텍스트 데이터에서 인물, 장소, 조직, 기술명 등 고유 명사를 식별하고 분류하는 기술이다. 지식 그래프 구축이나 문서 자동 분류의 핵심적인 전처리 단계로 활용된다.

언급된 도구

Claude추천

위키 페이지 합성, 개체 추출 및 연결성 발견을 위한 메인 LLM

Nia Vault추천

소스 데이터를 위키 페이지로 프로세싱하고 동기화하는 도구

GBrain추천

Compiled Truth와 Timeline 구조를 가진 개인용 지식 뇌 아키텍처