Coneja-Chibi/TunnelVision
JavaScript0 / 0
SillyTavern용 AI 주도 lorebook 탐색·기억 관리 확장
TL;DR
TunnelVision은 SillyTavern 확장으로 lorebook을 계층적 채널 가이드로 재구성하고 모델에 tool calls 형태의 '리모컨'을 줘 AI 스스로 탐색·검색·기억·편집하게 만듭니다. 별도의 임베딩 모델이나 벡터 DB가 필요 없고 Quick Build로 메타데이터만 즉시 구성하거나 LLM 빌드로 노드 요약을 생성하는 방식으로 설정합니다. 핵심 기능은 읽기뿐 아니라 Remember/Update/Forget 같은 쓰기 도구와 Tracker 자동 갱신, 자동 요약 및 활동 피드 제공으로 장기 연속성 유지와 키워드 관리 부담을 크게 줄여줍니다. 도입 전 조건으로 SillyTavern 최신 버전과 tool calling을 지원하는 API가 필요하며 LLM 빌드 사용 시 토큰 비용을 고려해야 합니다.
핵심 포인트
- 기존 SillyTavern lorebook은 키워드 매칭에 의존해 관련 정보가 대화에 암묵적으로 주입되면 모델이 출처나 중요도를 인지하지 못하는 문제가 발생합니다. TunnelVision은 lorebook을 계층적 '채널 가이드' 트리로 자동 구성하고 모델에 tool calls 형태의 원격 제어권을 부여해 AI가 직접 채널을 탐색하고 필요한 항목만 선택해 가져오도록 설계했습니다. 이 방식은 단순한 텍스트 유사도 검색이 아닌 모델의 맥락적 추론을 기반으로 retrieval 결정을 내리기 때문에 캐릭터 연속성과 플롯 관련성 유지에 유리합니다.
- 설치·운영은 SillyTavern 확장으로 작동하며 요구조건은 SillyTavern과 tool calling을 지원하는 API(Claude, GPT-4, Gemini 등) 및 관리할 lorebook 한 권 이상뿐입니다. 트리 빌드는 Quick Build(메타데이터만, 토큰 비용 없음) 또는 LLM 빌드(노드 요약 생성, 토큰 비용 발생)로 선택할 수 있고, 런타임에는 TunnelVision이 tool definitions를 API 호출에 주입해 모델이 Search/Remember/Update 같은 도구를 호출하게 만듭니다. 인프라 측면에서는 임베딩 모델이나 벡터 DB가 필요하지 않아 별도 데이터베이스·재인덱싱·chunking 전략을 도입하지 않아도 됩니다.
- TunnelVision은 읽기 전용 검색을 넘어서 쓰기 가능한 메모리 관리 도구 세트를 제공합니다; Search, Remember, Update, Forget, Summarize, Reorganize, Merge/Split, Notebook 같은 8개 도구가 등록되어 AI가 대화 중에 새 항목을 저장하거나 기존 항목을 수정·병합·삭제할 수 있습니다. 트래커(Tracker) 엔트리는 매 턴 모델이 확인·갱신하며 감정 상태, 인벤토리, 위치, 퀘스트 진행 등을 자동으로 관리하고 Auto-Summary(기본 인터벌 20 메시지)와 Activity Feed로 활동을 실시간 확인할 수 있습니다. 중복 저장을 줄이기 위한 trigram 기반 Dedup Detection 기능과 기본 유사도 임계값 0.85, 재귀 한도 Recurse Limit 기본 5 같은 구체적 설정을 통해 동작을 제어할 수 있습니다.
- 성능·운영상의 트레이드오프는 명확합니다; lorebook 검색 자체는 추가 인프라가 불필요하지만 LLM 빌드 옵션을 쓰면 토큰 비용이 발생하며 트리 깊이에 따라 한 응답당 1~5회 정도의 tool call이 발생할 수 있습니다. TunnelVision은 VectHare 같은 RAG 기반 솔루션과 공존하도록 설계되어 메시지 기반 검색은 VectHare에, lorebook 기반 추론적 검색·관리에는 TunnelVision을 병용할 수 있습니다. 모델이 tool calling을 지원하지 않거나 tool calls를 허용하지 않는 환경에서는 핵심 기능을 사용할 수 없으니 도입 전 API 호환성과 SillyTavern 버전을 확인하셔야 합니다.
116
Stars
24
Forks
+204
Trending
0
조회수
116 watchers4 open issues
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.