섹션별 상세
LLM은 종종 사용자를 프로필화하거나 특정 행동을 유도하는 객체로 취급하는 경향이 있다. Viveka는 이러한 언어 패턴을 감지하여 사용자의 주체성을 보호하는 필터링 레이어 역할을 수행한다.
필터링 로직은 Advaita Vedānta 철학을 기반으로 하며, Scherf Logic API를 통해 Lean 4로 형식화된 기계 검증 공리를 사용한다. 이 방식은 휴리스틱 판단과 검증된 논리를 결합하여 응답의 정당성을 평가한다.
시스템은 LLM 응답을 입력받아 주장을 추출하고, 이를 공리 레이어와 대조하여 PASS, FLAG, CORRECT, BLOCK 중 하나를 결정한다. 특히 CORRECT 조치는 강제 수정이 아닌 리프레임(reframe) 제안을 통해 사용자의 자율성을 보장한다.
witness-layer 패키지는 유연한 아키텍처를 제공하여 사용자가 직접 Judge(판단기)와 Checker(검증기)를 주입할 수 있다. [scherf] 옵션을 통해 실제 Lean 기반 백엔드를 설치하거나, 기본 제공되는 스텁(stub)을 사용하여 즉시 실행 가능하다.
기술
- Python
- Lean 4
- LLM
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 06. 02.수집 2026. 06. 02.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
