frugal: Claude Code용 비용 최적화 에이전트 라우터 플러그인

작성자는 공개 저장소와 함께 설계 결정을 피드백 받고자 게시글을 올렸다. 게시물 본문에 댓글이나 토론 내용은 포함되어 있지 않아 실제 커뮤니티 반응은 본문에서 확인할 수 없다. 따라서 다른 사용자의 수용도나 개선 제안은 원문만으로 판단할 수 없다.

• 에스컬레이션 판정 기준은 자기보고 대신 컴파일·테스트·스키마 검증 같은 외부적이고 결정 가능한 체크로 구성하라. 이러한 검증은 입력→검증→결과의 명확한 체인을 만들며 과다·과소 에스컬레이션을 줄이는 데 기여한다. 실제 시스템에서는 각 체크의 실패 유형을 로그에 남겨 향후 휴리스틱 튜닝에 활용할 수 있다.
• 라우팅 정책을 프롬프트에만 의존하지 말고 PreToolUse 훅으로 강제하라. 훅을 통해 검색 호출을 계수하거나 특정 계층 스폰을 차단하면 장기 대화에서 정책 드리프트를 막을 수 있다. 훅은 실패 시 세션을 중단하지 않도록 fail-open으로 설계하되 장애를 모니터링할 수 있는 메트릭을 함께 배치하라.
• 모델 전환 시 전체 대화 재피딩 비용을 피하려면 포인터 기반 위임과 서브에이전트의 직접 데이터 접근을 활용하라. 서브에이전트가 원시 바이트를 읽어 요약을 반환하면 상위 모델의 토큰 부담을 줄일 수 있다. 다만 감사와 규정 준수를 위해 서브에이전트 실행 로그와 계층별 비용 리포트를 필수로 남겨야 한다.

Subagent

— 서브에이전트는 메인 세션과 별도의 실행 컨텍스트에서 특정 하위 작업을 처리하는 경량 에이전트이다. 입력으로 파일 경로나 라인 범위 같은 포인터를 받고 자체적으로 원시 바이트를 읽어 요약을 반환함으로써 메인 모델의 전체 대화 이력을 재전송하지 않는다. 이렇게 하면 대화 모델에 대한 재피딩 비용을 줄이고 작업별 최저 비용 모델로 책임을 위임할 수 있다.

Escalation Heuristic

— 에스컬레이션 휴리스틱은 하위 계층이 실패할 때 상위 계층으로 작업을 올리는 기준과 검사 절차를 규정하는 규칙 집합이다. 이 글에서는 자체 판단 대신 컴파일러, 테스트, 스키마 검증, 패치 적용 여부 같은 실제 검증으로만 에스컬레이션을 허용하도록 설정했다. 검증 기반 휴리스틱은 과다·과소 에스컬레이션을 줄이고 비용 대비 성공률을 개선하는 목적을 가진다.

PreToolUse Hook

— PreToolUse 훅은 에이전트 루프에서 도구 호출 직전에 실행되어 라우팅 정책이나 예산 집행을 강제하는 인터셉터이다. 이 구현에서는 인라인 검색 호출을 계수해 예산을 초과하면 위임을 강제하거나 특정 추론 계층의 스폰을 차단하는 용도로 사용했다. 훅은 실패 시 세션을 멈추지 않도록 fail-open으로 설계되어 안정성을 유지한다.

Context Isolation

— 컨텍스트 격리는 대화 모델 간 모델 전환 시 전체 히스토리를 재전송하지 않기 위해 작업별로 독립된 컨텍스트를 사용하는 기법이다. 글에서는 현재 세션의 모델을 교체하지 않고 포인터만 전달하는 서브에이전트에 위임해 비용을 절감하는 방식으로 설명되었다. 이 방식은 대용량 히스토리 재피딩으로 인한 토큰 비용 발생을 회피하는 목적이 있다.