next-token-distribution

현재 입력 뒤에 올 각 토큰의 예측 점수 분포입니다. 자유 텍스트를 여러 토큰 생성하는 대신 마지막 위치의 분포에서 사전에 정한 라벨 토큰만 선택하면, 허용되지 않은 출력이 구조적으로 배제됩니다. 고정된 답 집합을 가진 분류 업무에 적합합니다.