본문으로 건너뛰기

context-caching

컨텍스트 캐싱

중급

자주 사용되는 프롬프트나 대량의 데이터를 서버에 미리 저장해두어 재사용 시 연산 속도를 높이고 비용을 절감하는 기술이다. 긴 문맥을 다루는 에이전트 시스템에서 효율적이다.