Claude Code의 토큰 낭비를 줄이기 위한 Rust 기반 압축 도구 'sqz' 공개

실용적 조언

Claude Code나 유사한 CLI 기반 AI 도구 사용 시 sqz-cli를 설치하여 토큰 사용량을 모니터링하고 절감할 수 있다.
JSON 응답 처리 시 null 값 제거만으로도 상당량의 토큰을 절약할 수 있으므로 파이프라인에 적용을 고려하라.

섹션별 상세

동일 파일의 반복 읽기 문제를 SHA-256 콘텐츠 캐시로 해결했다. 첫 번째 읽기 이후 동일한 파일에 대해서는 전체 내용 대신 13토큰 분량의 인라인 참조값만 반환하도록 설계했다. 실제 테스트 결과 2,000토큰 파일을 5회 읽을 때 발생하는 10,000토큰의 비용을 1,400토큰으로 줄여 약 86%의 절감 효과를 확인했다. 이는 LLM이 이전 컨텍스트를 기억하고 있다는 점을 활용한 최적화 방식이다.

데이터 유형별로 차별화된 압축 전략을 적용했다. JSON API 응답에서 null 값을 제거하고 TOON 인코딩을 적용하여 56%의 크기를 줄였으며, 반복되는 로그 라인은 58%까지 압축했다. 반면 스택 트레이스(Stack traces)와 같은 오류 정보는 LLM의 정확한 진단을 위해 압축하지 않고 원본을 유지하는 철학을 고수했다. 무분별한 압축이 모델의 추론 품질을 저하시키는 부작용을 방지하기 위한 의도적인 설계이다.

Rust 언어로 작성되어 성능과 안정성을 확보했다. 단일 바이너리로 실행되며 549개의 테스트와 57개의 속성 기반 정확성 증명을 통과하여 데이터 무결성을 보장한다. 쉘 훅, MCP 서버, 브라우저 확장 프로그램, IDE 플러그인 등 4가지 인터페이스를 통해 다양한 개발 환경에서 즉시 적용 가능하다. 특히 MCP 서버의 경우 Node.js가 아닌 컴파일된 Rust로 구현되어 실행 효율을 높였다.

용어 해설

토큰 최적화(Token Optimization): — LLM 입력 및 출력 시 발생하는 비용과 컨텍스트 제한을 관리하기 위해 데이터의 크기를 줄이는 기술이다. 중복된 텍스트를 식별하거나 불필요한 공백, null 값 등을 제거하여 모델이 처리해야 할 정보의 양을 최소화함으로써 비용 절감과 응답 속도 향상을 도모한다.
MCP 서버(MCP Server): — Model Context Protocol의 약자로, AI 모델이 외부 도구나 데이터 소스에 표준화된 방식으로 접근할 수 있게 해주는 프로토콜이다. 이를 통해 LLM은 로컬 파일 시스템, 데이터베이스, API 등과 효율적으로 상호작용하며 필요한 정보를 가져올 수 있다.
SHA-256 캐싱(SHA-256 Caching): — 파일의 내용을 고유한 해시값으로 변환하여 동일성 여부를 판단하고 저장하는 방식이다. 이미 읽은 파일의 해시값이 일치하면 전체 내용을 다시 전송하는 대신 짧은 참조값만 전달하여 중복 데이터 전송에 따른 토큰 낭비를 방지한다.

코드 예제

bash

cargo install sqz-cli
sqz init
sqz gain # ASCII chart of daily token savings
sqz stats # cumulative report

Rust 패키지 매니저를 통한 sqz 도구 설치 및 초기화, 통계 확인 명령어

언급된 도구

sqz추천링크

LLM 토큰 사용량 최적화 및 압축 도구

Claude Code중립

Anthropic의 CLI 기반 코딩 에이전트

언급된 리소스

GitHubsqz GitHub Repository