본문으로 건너뛰기

Cache Economics

캐시 경제학

LLM 호출 비용을 줄이기 위해 프롬프트나 응답을 저장하고 재사용하는 전략에서 발생하는 비용 대비 효율성을 의미한다. 프로덕션 환경에서 에이전트의 경제적 생존 가능성을 결정하는 핵심적인 설계 요소로 기능한다.