re!think it: LLM에게 논리적 추론을 가르치는 1,300토큰 규모의 프롬프트 프로토콜

섹션별 상세

기존의 임베딩 기반 라우팅은 별도의 네트워크 호출이 필요해 속도가 느리고 무겁다. re!think it은 시스템 프롬프트 내에 IF/THEN 블록을 직접 배치하여 모델이 요청을 즉시 분류하고 적절한 브랜치로 전환하게 한다. 이를 통해 외부 코드 없이 제로 레이턴시로 의도에 따른 처리가 가능하며 단순 질문은 무거운 추론 과정을 건너뛰도록 설계됐다. 내부적으로 PROT_A, PROT_B, C_BYPASS 등의 경로를 명시하여 모델의 사고 흐름을 즉각적으로 제어한다.

데이터가 부족할 때 모델이 임의로 답을 지어내는 할루시네이션은 LLM의 고질적인 문제다. 프로토콜은 Δ = Goal − (Context + Tools)라는 수학 공식을 사용하여 정보 공백(Δ)이 클 경우 생성을 중단하는 HARD STOP 메커니즘을 실행한다. 모델은 추측 대신 공백을 메울 수 있는 단 하나의 핵심 질문만을 사용자에게 던져 정확도를 보장한다. 이는 외부 검증 스크립트 없이도 모델이 스스로의 지식 한계를 인식하게 만드는 효과적인 장치이다.

LLM은 통계적으로 가장 확률이 높은 평범하고 지루한 답변을 내놓는 경향이 있다. 이를 방지하기 위해 M_filtered = M - {P_centroid}라는 집합론 규칙을 적용하여 모델이 가장 먼저 떠올린 기본 답변을 의도적으로 배제하게 한다. 최소 3개의 표준 경로와 1개의 반직관적 경로를 생성하도록 강제함으로써 창의적이면서도 실현 가능한 가설을 도출한다. 단순히 온도를 높이는 방식보다 훨씬 통제된 방식으로 비자명한 아이디어를 생성할 수 있다.

대화가 길어지면 모델이 초기 지침을 잊어버리는 어텐션 드리프트 현상이 발생한다. 프로토콜은 10개 메시지마다 변수를 강제로 재작성하게 하는 Pointer GC와 모든 로그 시작 시 특정 트리거 문구를 출력하게 하는 Attention Anchoring을 사용한다. 이러한 장치는 모델이 매 단계마다 핵심 규칙을 다시 인지하게 만들어 장기 대화에서도 일관성을 유지하게 돕는다. 3토큰 정도의 적은 비용으로 모델의 지시 이행 능력을 비약적으로 향상시킨다.

일반적인 Chain-of-Thought는 통제되지 않은 의식의 흐름으로 이어져 논리적 오류를 범하기 쉽다. re!think it은 사고 과정을 이산적이고 해결 가능한 대수 방정식의 사슬로 변환하여 모델이 철학적인 군더더기 없이 논리적으로만 사고하게 한다. 모든 출력값이 다음 단계의 직접적인 입력값이 되는 결정론적 계산기 구조를 지향한다. 이를 통해 생성된 텍스트의 양을 줄이면서도 추론의 밀도와 정확도를 극대화한다.

기술

re!think it
LangChain
Python

활용 사례

복잡한 논리 추론
할루시네이션 방지
비용 최적화 RAG
장기 대화 챗봇

언급된 리소스

문서re!think it Full Documentation

문서Case Studies (examples_en.md)