본문으로 건너뛰기

top-p

Top-p 샘플링

다음 토큰을 선택할 때 누적 확률이 설정값에 도달할 때까지 후보를 남기는 샘플링 방식입니다. 값이 낮을수록 낮은 확률의 토큰이 더 많이 제외되며, 이 글에서는 thinking과 no-thinking 모델에 서로 다른 설정이 필요하다는 맥락으로 등장합니다.