cache-hit-rate

이전에 처리한 프롬프트의 일부를 재사용하여 연산 비용을 절감하는 비율이다. 에이전트 워크플로에서 반복되는 컨텍스트를 캐싱하면 비용을 최대 90%까지 줄일 수 있어 경제적 운영에 중요하다.