본문으로 건너뛰기

parallel-decoding

병렬 디코딩

중급

토큰을 하나씩 순서대로 생성하지 않고, 여러 토큰을 동시에 생성하여 추론 속도를 높이는 기술이다.