본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
prefix-caching
접두사 캐싱
고급
프롬프트의 공통된 앞부분(시스템 메시지 등)을 미리 계산하여 저장해두는 기술이다. 반복되는 문맥을 재계산하지 않아 TTFT를 획기적으로 줄여준다.
비슷한 개념
prompt-caching
system-prompt-caching
prefix
kv-prefix-caching
context-caching
cache-prefix
cached-tokens
sealed-prefix
← 용어 사전 전체 보기
