Claude Code의 Opus 4.7 모델에서 심각한 토큰 사용량 회귀 현상 발견

커뮤니티 반응

작성자가 제시한 구체적인 수치 비교 데이터에 대해 신뢰를 표하며, 최신 모델의 효율성 저하 문제에 대해 우려하는 분위기이다.

주요 논점

01중립다수

Opus 4.7의 도구 사용 패턴이 4.6보다 퇴보하여 토큰 낭비가 심각하므로 수정이 필요하다.

합의점 vs 논쟁점

합의점

Opus 4.7이 4.6에 비해 동일 작업 시 훨씬 더 많은 API 요청을 생성한다.
캐시 읽기 토큰의 누적이 전체 비용 상승의 핵심 원인이다.

실용적 조언

현재 Opus 4.7 사용 시 비용이 과다하게 발생한다면, 도구 호출 최적화가 이루어질 때까지 Opus 4.6을 사용하는 것이 경제적이다.
Claude Code 실행 시 `--tools ""` 옵션을 사용하여 불필요한 도구 사용을 제한함으로써 토큰 낭비를 일시적으로 방지할 수 있다.

섹션별 상세

Opus 4.7 모델이 Claude Code 환경에서 도구 호출을 배치로 처리하지 못하고 파일 하나당 한 번의 모델 요청을 생성하는 문제가 확인됐다. Opus 4.6은 여러 파일 읽기 작업을 적은 수의 요청으로 묶어서 처리하는 반면, 4.7은 '파일 읽기 → 결과 수신 → 다음 파일 읽기'의 직렬 구조를 반복한다. 이로 인해 동일한 소규모 저장소 작업임에도 불구하고 API 요청 횟수가 4.6 대비 약 3~5배 이상 증가했다.

반복되는 API 요청마다 Claude Code의 시스템 컨텍스트와 도구 정의를 담은 캐시를 매번 다시 읽으면서 누적 토큰 사용량이 폭발적으로 늘어났다. 실험 데이터에 따르면 4.6 모델은 약 5만 개의 캐시 읽기 토큰을 사용한 반면, 4.7 모델은 동일 작업에서 43만 개 이상의 캐시 읽기 토큰을 소모했다. 이는 개별 요청의 컨텍스트 크기가 커진 것이 아니라, 비효율적인 루프로 인해 캐시된 데이터를 수십 번 반복해서 읽은 결과이다.

이러한 현상은 모델 자체의 추론 능력보다는 에이전트의 도구 사용 전략(Tool Pattern) 변화에서 기인한 것으로 분석됐다. 4.7 모델은 이미 읽어야 할 파일 목록을 알고 있음에도 불구하고 독립적인 Read 호출을 병렬화하지 않는 특성을 보였다. 작성자는 이를 '직렬화된 에이전트 루프' 문제로 규정하며, 이 문제가 해결될 경우 Opus 4.7의 사용 비용과 제한 사항을 크게 개선할 수 있을 것으로 전망했다.

용어 해설

도구 루프(Tool Loop): — AI 에이전트가 작업을 수행하기 위해 외부 도구를 호출하고 그 결과를 받아 다음 행동을 결정하는 반복 과정이다. 에이전트가 한 번의 요청에 여러 도구를 호출(Batching)하지 않고 하나씩 호출할 경우 전체 추론 횟수와 비용이 증가한다.
캐시 읽기 토큰(Cache Read Tokens): — 모델 요청 시 이전에 캐싱된 컨텍스트(시스템 프롬프트, 도구 정의 등)를 다시 읽어들이는 토큰이다. 동일한 컨텍스트를 반복해서 읽을 때 발생하며, 요청 횟수가 많아질수록 누적 토큰 사용량이 급격히 늘어나는 원인이 된다.
직렬화된 에이전트 루프(Serialized Agent Loop): — 에이전트가 여러 작업을 병렬로 처리하지 않고 순차적으로 하나씩 처리하는 방식이다. 이 방식은 각 작업마다 독립적인 모델 호출을 발생시켜 전체적인 실행 시간과 API 비용을 최적화하지 못하는 단점이 있다.
토큰 사용량 회귀(Token Usage Regression): — 소프트웨어 업데이트나 모델 버전 변경 후 이전보다 더 많은 토큰을 비효율적으로 사용하는 현상이다. 성능은 동일하거나 낮아졌음에도 불구하고 비용이나 자원 소모가 늘어나는 최적화 실패 사례를 의미한다.

언급된 도구

Claude Code중립

CLI 기반 AI 코딩 에이전트 도구