본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

접두사 캐싱 (prefix-caching) 용어 설명 | AI Trends

prefix-caching

접두사 캐싱

고급

프롬프트의 공통된 앞부분(시스템 메시지 등)을 미리 계산하여 저장해두는 기술이다. 반복되는 문맥을 재계산하지 않아 TTFT를 획기적으로 줄여준다.

비슷한 개념

prompt-caching system-prompt-caching prefix kv-prefix-caching context-caching cache-prefix kv-aware-routing prefix-matching

← 용어 사전 전체 보기