Bash 대신 REPL을 활용한 에이전트 추론 최적화: CORE 프레임워크

실용적 조언

에이전트의 비용과 지연 시간을 줄이려면 여러 번의 Tool-calling 대신 단일 실행 환경에서 복합 연산을 처리하는 REPL 방식을 고려하라.
코드베이스 분석 시 단순 검색보다 지식 그래프를 REPL에 결합하여 구조적 탐색을 유도하는 것이 효과적이다.

섹션별 상세

에이전트가 Bash를 사용할 때 발생하는 정보 손실 문제를 지적했다. Bash는 입력을 평문 텍스트로 변환하여 처리하므로 에이전트가 자신의 생각을 텍스트 명령어로 바꾸고 다시 결과를 해석하는 과정에서 구조적 정보가 유실된다. REPL 환경을 제공하면 에이전트가 문자열 변환 없이 객체와 함수, 반환 값을 직접 다루며 구조를 유지한 채 작업할 수 있다.

CORE 프레임워크는 코드베이스와 지식 그래프를 에이전트가 탐색 가능한 Python REPL 환경으로 변환한다. 에이전트는 단일 턴 내에서 그래프 검색, 파일별 결과 클러스터링, 하위 추론기(Sub-reasoner) 생성 및 결과 합성을 수행하는 Python 코드를 작성한다. 이는 기존 도구 호출(Tool-calling) 아키텍처에서 10회 이상의 순차적 라운드트립이 필요한 작업을 단 한 번의 표현식으로 대체한다.

REPL 기반 아키텍처는 에이전트가 추론 도중 스스로의 복제본을 생성하여 하위 문제를 해결하도록 지원한다. 코드베이스가 REPL화되어 있어 에이전트는 분해된 하위 문제에 특화된 인스턴스를 생성하고 그 결과를 다시 통합된 출력으로 결합하는 재귀적 작업이 가능하다. 작성자는 이를 통해 토큰 사용량 절감과 처리 속도 향상을 확인했다.

모델 체급에 따른 REPL 활용 능력의 차이가 발견됐다. Claude 급의 고성능 모델은 REPL 환경에 적응하며 성능 이득을 보였으나, Kimi K 2.5나 Qwen 같은 로컬 모델은 프로그래밍 도구를 적절히 활용하지 못하고 기존의 도구 호출 방식으로 퇴행하는 경향을 보였다. 이는 소형 모델이 REPL 환경을 제대로 활용하기 위해 추가적인 학습이나 튜닝이 필요함을 시사한다.

용어 해설

대화형 실행 환경(REPL): — 입력을 읽고(Read), 평가하고(Eval), 출력하며(Print), 이를 반복(Loop)하는 프로그래밍 환경이다. 텍스트 기반의 Bash와 달리 객체와 함수를 직접 다룰 수 있어 데이터 구조를 유지하며 복잡한 연산을 수행하기에 유리하다.
지식 그래프(Knowledge Graph): — 개체 간의 관계를 네트워크 형태로 표현한 데이터 구조이다. 코드베이스나 문서의 맥락을 단순 텍스트가 아닌 구조적 연결로 파악할 수 있게 하여 에이전트의 탐색 효율을 높인다.
재귀적 메모리 하네스(Recursive Memory Harness (RMH)): — 에이전트가 복잡한 문제를 하위 문제로 분해하고, 각 결과를 다시 통합하는 과정에서 메모리를 재귀적으로 활용하는 프로토콜이다. 대규모 코드베이스 분석 시 정보 손실을 최소화하는 역할을 한다.

언급된 도구

CORE추천

코드베이스와 지식 그래프를 Python REPL 환경으로 변환하는 CLI 도구

Claude추천

REPL 환경에서 높은 적응력과 성능을 보여주는 LLM 제품군

언급된 리소스

GitHubCORE CLI Repository

문서Recursive Memory Harness (RMH) Protocol