Retrieval Caching

검색 캐싱은 동일하거나 유사한 쿼리에 대해 이전 검색 결과를 저장해 재계산을 건너뛰는 기법으로, 임베딩 생성·벡터 검색·후처리 호출을 줄여 지연과 비용을 크게 낮출 수 있다. 본문에서는 캐시 부재가 반복 작업을 초래해 비용이 급증했다고 기술되어 있다.