Claude 3 Opus 4.8의 'Thinking' 기능으로 인한 캐시 토큰 급증 문제와 해결책

많은 사용자가 유사한 토큰 사용량 급증 문제를 겪고 있으며, 4.7 버전으로의 롤백이나 설정 변경을 통한 해결책에 긍정적인 반응을 보였다.

• 캐시 토큰 사용량이 너무 많다면 Claude 3 Opus 4.8 대신 4.7 버전을 사용한다.
• VS Code 설정 파일(~/.claude/settings.json)에 "model": "claude-opus-4-7"을 추가하여 버전을 고정한다.
• Opus 4.8을 계속 사용해야 한다면 Thinking 기능을 비활성화하여 캐시 토큰 사용량을 줄인다.

• Opus 4.8의 Thinking 기능은 항상 활성화되어 있어 캐시 토큰 사용량이 4.7 대비 비정상적으로 높다.
• Thinking 기능이 항상 활성화되면 매 턴 캐시 토큰이 누적되어 컨텍스트 윈도우가 빠르게 소진된다.
• 비용 최적화가 필요하거나 캐시 효율을 높이려면 Opus 4.7을 사용하거나 4.8에서 Thinking 기능을 비활성화해야 한다.