cache-hit discount
캐시 히트 할인
반복적이거나 동일한 프롬프트 부분을 캐시로 처리할 때 적용되는 비용 할인 정책으로서, 캐시 적중 시 입력·출력 토큰 요금을 대폭 낮춰 장기간 대화나 에이전트 워크플로 비용을 줄이는 수단이다.
캐시 히트 할인
반복적이거나 동일한 프롬프트 부분을 캐시로 처리할 때 적용되는 비용 할인 정책으로서, 캐시 적중 시 입력·출력 토큰 요금을 대폭 낮춰 장기간 대화나 에이전트 워크플로 비용을 줄이는 수단이다.
