prefill-decoding

프리필(prefill) 단계의 입력 처리와 텍스트 생성(decoding) 단계를 분리해 각각의 하드웨어 풀에서 독립적으로 최적화 가능하도록 하는 기술적 설계.