Asynchronous Loop
비동기 훈련 루프
생성(rollout)과 학습(update)이 서로 다른 타이밍으로 중첩 실행되는 구조로, 엔진에서 토큰이 스트리밍되는 즉시 큐에 삽입하고 별도 학습 루틴이 이를 소비한다. Molt는 Ray 큐와 단일 FSDP2 액터를 결합해 지속적 프롬프트 그룹 스트리밍·일시정지·refit·재개를 지원하며 엔진 자원을 비효율적으로 대기시키지 않고 처리량을 유지한다.
비동기 훈련 루프
생성(rollout)과 학습(update)이 서로 다른 타이밍으로 중첩 실행되는 구조로, 엔진에서 토큰이 스트리밍되는 즉시 큐에 삽입하고 별도 학습 루틴이 이를 소비한다. Molt는 Ray 큐와 단일 FSDP2 액터를 결합해 지속적 프롬프트 그룹 스트리밍·일시정지·refit·재개를 지원하며 엔진 자원을 비효율적으로 대기시키지 않고 처리량을 유지한다.
