NARE: LLM의 추론을 결정론적 실행으로 전환하는 인지 아키텍처

섹션별 상세

반복되는 논리적 추론 과정을 로컬 절차적 실행으로 전환하여 계산 복잡성을 낮춘다. 기존의 자기회귀적 LLM 생성 방식 대신, 성공적인 추론 궤적에서 추출한 알고리즘을 Python 코드로 컴파일하여 실행한다. 이를 통해 동일한 유형의 논리 문제에 대해 매번 토큰을 생성할 필요가 없는 구조를 구축한다.

근거

결정론적 실행을 통해 O(1)의 지연 시간과 제로 API 비용을 달성한다. — Core Architecture 및 Procedural Execution 섹션 설명

REFLEX, FAST, HYBRID, SLOW로 구성된 4단계 동적 라우팅 프로토콜을 운영한다. REFLEX는 컴파일된 기술을 즉시 실행하고, FAST는 FAISS 기반의 벡터 유사도 검색으로 과거 정답을 조회하며, HYBRID는 과거 흔적을 활용한 증분 추론을 수행한다. 가장 복잡한 문제는 SLOW 경로를 통해 Chain-of-Thought 방식으로 탐색하며 내부 비평가 모델의 평가를 받는다.

에피소드 기억이 일정 밀도 이상 쌓이면 '수면 단계'를 통해 알고리즘을 통합한다. 이 과정에서 추상 구문 트리(AST)를 합성하여 trigger()와 execute() 함수를 포함한 Python 알고리즘을 생성한다. 이후 유사한 자극이 들어오면 trigger() 함수가 이를 가로채 신경망 파이프라인을 우회하고 절차적 함수를 호출한다.

근거

실행 가능한 리플렉스(Executable Reflex) 작업에서 토큰 소모량을 100% 절감한다. — Benchmark Metrics 섹션의 Token Savings on Reflex Tasks 수치

생성된 알고리즘의 신뢰성을 보장하기 위해 격리된 환경에서 실행 및 평가를 수행한다. 런타임 예외가 발생하면 해당 기술의 신뢰도 스칼라 값을 낮추고 즉시 추론 기반의 안전한 경로로 대체한다. 이러한 결함 허용 메커니즘은 자동 생성된 코드의 불안정성을 보완하고 시스템의 안정성을 유지한다.

기술

Python
FAISS
Gemini API
AST

활용 사례

반복적인 논리 퍼즐 및 구조적 데이터 처리
비용 효율적인 RAG 시스템 구축
지연 시간에 민감한 결정 지원 시스템

언급된 리소스

GitHubNeuro-Adaptive-Reasoning-Engine GitHub Repository