Partial Rollout
부분 Rollout
강화학습에서 모든 생성이 끝날 때까지 기다리지 않고, 먼저 완료된 궤적만 학습 배치에 넣는 방식입니다. 아직 생성 중인 요청은 현재 위치에서 멈추고 접두사와 메타데이터를 보존한 뒤, 정책 업데이트와 가중치 동기화가 끝나면 이어서 생성합니다. 긴 응답 때문에 GPU가 대기하는 시간을 줄이는 데 중요합니다.
부분 Rollout
강화학습에서 모든 생성이 끝날 때까지 기다리지 않고, 먼저 완료된 궤적만 학습 배치에 넣는 방식입니다. 아직 생성 중인 요청은 현재 위치에서 멈추고 접두사와 메타데이터를 보존한 뒤, 정책 업데이트와 가중치 동기화가 끝나면 이어서 생성합니다. 긴 응답 때문에 GPU가 대기하는 시간을 줄이는 데 중요합니다.
