Claude Code에서 로컬 모델을 실행기로 사용하는 어드바이저 패턴 구현

실용적 조언

API 비용이 부담된다면 Ollama를 통해 Qwen 같은 경량 모델을 로컬에서 실행기로 사용해라.
에이전트 워크플로를 설계할 때 파일 기반 스냅샷 방식을 도입하여 디버깅과 감사 가능성을 높여라.

섹션별 상세

로컬 모델과 클라우드 모델을 결합한 하이브리드 에이전트 구조를 제안했다. Ollama를 통해 실행되는 로컬 Qwen 모델이 루프를 수행하고, 작업 시작이나 중단 시점에만 Claude Code가 개입하여 전략적 조언을 제공하는 방식이다. 이를 통해 대다수의 토큰 처리를 로컬에서 수행함으로써 API 비용과 쿼터 소모를 획기적으로 줄였다.

bash

/local-advisor "your task here"

Claude Code 내에서 로컬 모델 기반의 어드바이저 기능을 실행하는 커스텀 슬래시 커맨드 예시

두 모델 간의 데이터 교환을 위해 파일 기반의 핸드오프 메커니즘을 구현했다. 로컬 실행기가 특정 트리거 포인트에서 작업 내역 스냅샷을 디스크에 저장하면 Claude Code가 이를 읽어 조언을 작성하고 다시 로컬 실행기가 이를 이어받는 구조이다. 직접적인 API 통신 없이 파일 시스템을 매개로 하므로 전체 작업 과정을 사후에 정밀하게 감사할 수 있는 장점이 있다.

전략적 조언을 구하는 시점을 결정하는 트리거 휴리스틱이 핵심 요소로 작용한다. 작업 시작 시, 에이전트가 막혔을 때, 완료 선언 직전, 또는 매 N번째 턴마다 조언자를 호출하도록 설계했다. 작성자는 이러한 호출 시점의 효율성과 조언자를 위한 프롬프트 설계 최적화에 대해 커뮤니티의 피드백을 요청했다.

용어 해설

어드바이저-엑세큐터 패턴(Advisor-Executor Pattern): — 강력한 성능의 모델(Advisor)과 비용 효율적인 모델(Executor)을 조합하는 설계 패턴이다. 대부분의 작업은 저비용 모델이 수행하고, 전략적 판단이나 문제 해결이 필요한 시점에만 고성능 모델의 조언을 받아 비용과 성능의 균형을 맞춘다.
슬래시 커맨드(Slash Command): — CLI 도구나 채팅 인터페이스에서 '/' 기호로 시작하는 명령어를 입력하여 특정 기능을 실행하는 방식이다. Claude Code 내에서 커스텀 기능을 호출하거나 외부 도구와 연동하는 인터페이스로 활용된다.
트랜스크립트 스냅샷(Transcript Snapshot): — 에이전트가 수행한 작업 내역과 대화 기록의 특정 시점 상태를 파일 형태로 저장한 것이다. 이 아티클에서는 로컬 모델과 클라우드 모델 간의 직접적인 통신 대신 파일 기반의 데이터 전달 매개체로 사용된다.

언급된 도구

Claude Code추천

Anthropic의 공식 CLI 코딩 에이전트 도구

Ollama추천

로컬 환경에서 LLM을 실행하기 위한 엔진

Qwen추천

로컬 실행기로 사용된 언어 모델

언급된 리소스

GitHubAdvisor_Skill GitHub Repository