Teacher Prefill
교사 프리필
학생이 생성한 롤아웃을 교사 모델에 전달해 각 토큰의 로그확률 또는 상위 k개 토큰의 로짓을 계산하는 연산이다. 이 연산을 별도 서비스로 분리하면 학생 샘플링과 병렬로 처리되어 전체 벽시계 시간 부담이 크게 증가하지 않는다. MOPD에서는 교사 프리필을 비동기 서비스로 배치해 오버헤드를 숨겼다.
교사 프리필
학생이 생성한 롤아웃을 교사 모델에 전달해 각 토큰의 로그확률 또는 상위 k개 토큰의 로짓을 계산하는 연산이다. 이 연산을 별도 서비스로 분리하면 학생 샘플링과 병렬로 처리되어 전체 벽시계 시간 부담이 크게 증가하지 않는다. MOPD에서는 교사 프리필을 비동기 서비스로 배치해 오버헤드를 숨겼다.