프롬프트 캐싱
자주 반복되는 프롬프트 내용을 서버에 미리 저장해두고 재사용하는 기술이다. 이를 통해 동일한 컨텍스트를 반복 입력할 때 발생하는 API 비용을 절감하고 응답 속도를 획기적으로 높일 수 있다.