본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
프리필 (pre-fill) 용어 설명 | AI Trends
pre-fill
프리필
중급
LLM 추론의 첫 단계로, 입력된 전체 프롬프트를 한꺼번에 처리하여 이후 토큰 생성에 필요한 KV 캐시를 생성하는 과정이다. 연산 집약적인 특성을 가진다.
비슷한 개념
prefill-phase
prefill-stage
pre-fill-phase
prefill
prefill-vs-decode
prefill-decode-disaggregation
decode-stage
pre-fill-and-decoding
← 용어 사전 전체 보기