본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
로그인
홈
트렌딩
검색
커뮤니티
프로필
프리필-디코딩 분리 (prefill-decoding) 용어 설명 | AI Trends
prefill-decoding
프리필-디코딩 분리
중급
프리필(prefill) 단계의 입력 처리와 텍스트 생성(decoding) 단계를 분리해 각각의 하드웨어 풀에서 독립적으로 최적화 가능하도록 하는 기술적 설계.
비슷한 개념
prefill-decode-disaggregation
pre-fill-and-decoding
pd-disaggregation
disaggregated-serving
disaggregated-pipeline
prefill
prefill-vs-decode
disaggregated-inference
← 용어 사전 전체 보기