본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

프리필 단계 (pre-fill-stage) 용어 설명 | AI Trends

pre-fill-stage

프리필 단계

중급

입력된 프롬프트를 한꺼번에 처리하여 KV 캐시를 생성하는 추론의 초기 단계이다. 연산 집약적인 작업으로 병렬 처리 능력이 뛰어난 GPU가 주로 담당한다.

비슷한 개념

pre-fill-phase prefill-stage prefill-phase pre-fill prefill decode-stage prefill-vs-decode pre-fill-and-decoding

← 용어 사전 전체 보기