본문으로 건너뛰기

token-distribution

토큰 분포

모델이 다음 단어를 예측할 때 각 후보 단어(토큰)에 할당하는 확률의 분포이다. 이 분포의 형태에 따라 모델의 답변이 얼마나 창의적이거나 정확할지가 결정된다.