Tiered Checkpointing
계층형 체크포인트 저장
학습 체크포인트를 로컬 디스크에 먼저 기록한 뒤 Amazon S3로 비동기 업로드하고, 복구 시 HyperPod Tiered Storage를 우선 조회하는 방식입니다. 최근 체크포인트가 계층형 저장소에 남아 있으면 S3에서 직접 복원하는 과정을 건너뛸 수 있습니다. 노드 교체나 멈춘 작업 재시작 뒤 대규모 모델의 복구 시간을 줄이는 데 쓰입니다.
계층형 체크포인트 저장
학습 체크포인트를 로컬 디스크에 먼저 기록한 뒤 Amazon S3로 비동기 업로드하고, 복구 시 HyperPod Tiered Storage를 우선 조회하는 방식입니다. 최근 체크포인트가 계층형 저장소에 남아 있으면 S3에서 직접 복원하는 과정을 건너뛸 수 있습니다. 노드 교체나 멈춘 작업 재시작 뒤 대규모 모델의 복구 시간을 줄이는 데 쓰입니다.
