본문으로 건너뛰기
Pre-fill
프리필
LLM 추론의 첫 단계로, 입력된 전체 프롬프트를 한꺼번에 처리하여 이후 토큰 생성에 필요한 KV 캐시를 생성하는 과정이다. 연산 집약적인 특성을 가진다.
비슷한 개념
pre-fill-phase
Prefill
Prefill vs Decode
Prefill-Decode Disaggregation
Decode Stage
pre-fill-and-decoding
KV Prefix Caching
Prompt Processing
← 용어 사전 전체 보기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필