본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

프리필 (pre-fill) 용어 설명 | AI Trends

pre-fill

프리필

중급

LLM 추론의 첫 단계로, 입력된 전체 프롬프트를 한꺼번에 처리하여 이후 토큰 생성에 필요한 KV 캐시를 생성하는 과정이다. 연산 집약적인 특성을 가진다.

비슷한 개념

prefill-phase prefill-stage pre-fill-phase prefill prefill-vs-decode prefill-decode-disaggregation decode-stage pre-fill-and-decoding

← 용어 사전 전체 보기