본문으로 건너뛰기

prefix-conditioned-probabilities

접두사 조건부 확률

중급

토큰 t의 확률을 해당 토큰 이전의 prompt와 생성된 토큰(y_{<t})을 조건으로 계산한 확률이다. ReNIO는 이 값만으로 샘플 가중치를 계산해 정답 라벨 없는 prefix 학습을 가능하게 한다.