본문으로 건너뛰기

cache-hit

캐시 히트

이전 요청에서 생성된 프롬프트나 연산 결과가 재사용되어 계산 비용과 시간을 절감하는 상태를 의미한다. 에이전트 설계 시 동일한 프롬프트 접두사를 공유하여 캐시 히트율을 높이는 것이 비용 절감의 핵심이다.