프롬프트 캐싱
자주 사용되는 프롬프트 데이터를 저장해 두었다가 재사용함으로써 API 호출 비용을 줄이고 응답 속도를 높이는 기술이다. v2.1.90에서는 특정 상황에서의 캐시 미스 문제를 해결했다.