TL;DR
이 자료는 Claude Code를 88일간 운영하면서 발생한 토큰과 비용을 항목별로 분해한 표를 제시한다. 총 20,984,492,405 토큰과 $17,222.27의 비용 가운데 캐시 읽기가 토큰의 95.41%와 비용의 58.4%를 차지했고 캐시 쓰기는 토큰 4.23%에 비용 32.4%를 기록했다. 입력·출력 토큰 비중은 매우 작지만 출력의 단가가 일부 비용을 차지한다는 점이 드러난다.
요약하면 캐시 중심 워크로드에서는 캐시 히트율과 쓰기 정책이 비용 구조를 결정한다. 캐시 읽기를 줄이거나 효율을 높이면 토큰 소모와 비용을 크게 낮출 수 있고, 쓰기 빈도를 통제하면 비용의 다른 큰 축을 줄일 수 있다. 출력 단가 관리도 병행해야 총비용 최적화가 가능하다.
실용적 조언
- 캐시 히트율을 먼저 측정하고 낭비되는 캐시 읽기/쓰기를 식별해 우선순위로 최적화할 것. 표의 95.41% 캐시 읽기 비중은 히트율 개선이 비용 구조에 즉각적 영향을 준다는 근거가 된다.
- 캐시 쓰기 정책을 검토해 불필요한 저장을 줄일 것. 전체 토큰의 4.23%지만 비용의 32.4%를 차지하는 만큼 쓰기 빈도와 저장 대상 필터링으로 비용을 낮출 수 있다.
섹션별 상세


용어 해설
- 프롬프트 캐싱(Prompt Caching)
- — 프롬프트 캐싱은 이전에 생성한 프롬프트·응답을 저장해 동일하거나 유사한 요청 시 재사용하는 기법이다. 요청이 들어오면 저장된 항목을 조회(cache read)하고 필요하면 새 항목을 저장(cache write)해 API 호출량과 중복 토큰 사용을 줄인다. 비용과 지연을 낮추는 데 핵심 역할을 하므로 이 분석에서 캐시 관련 토큰·비용 비중을 해석하는 데 필수 개념이다.
- 캐시 읽기(Cache Read)
- — 캐시 읽기는 저장된 프롬프트나 응답을 조회해 재활용하는 단계로, 실제 모델 추론 호출을 줄이는 방식으로 동작한다. 이미지 표에서는 전체 토큰의 대부분(95.41%)이 캐시 읽기에서 발생했으며 비용 분배의 핵심 항목으로 표시됐다. 캐시 효율과 히트율이 비용 구조에 직접적 영향을 준다.
- 캐시 쓰기(Cache Write)
- — 캐시 쓰기는 새 프롬프트나 생성 결과를 저장소에 기록하는 단계로, 저장 작업 자체가 추가 토큰과 비용을 발생시킬 수 있다. 표에서는 전체 토큰의 소수(4.23%)였지만 비용 비중은 높아(32.4%) 쓰기 비용 구조가 무시할 수 없음을 시사한다. 어떤 항목을 캐싱할지 정책 결정이 비용에 직접적 영향을 준다.
- 토큰 과금(Token Pricing)
- — Token Pricing은 입력·출력·캐시 작업 등 각 토큰 유형별로 과금 단가가 다르게 적용되는 과금 체계이다. 동일한 토큰 수라도 작업 유형에 따라 비용 기여도가 달라지므로 토큰 분해표(입력/출력/캐시 읽기/쓰기)를 통해 실제 비용 구조를 파악해야 한다. 이 게시물의 핵심 인사이트는 토큰 점유율과 비용 점유율이 일치하지 않는다는 점이다.
언급된 도구
코드 관련 생성·보조를 제공하는 에이전트/도구
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.