Static Memory Overhead
정적 메모리 오버헤드
모델 가중치, optimizer state, 지속적으로 유지되는 gradient처럼 학습 단계 전반에 걸쳐 VRAM을 점유하는 메모리입니다. 모델 크기와 파라미터 수에 따라 기본 사용량이 결정되므로 소비자용 GPU에서 먼저 한계에 도달하기 쉽습니다.
정적 메모리 오버헤드
모델 가중치, optimizer state, 지속적으로 유지되는 gradient처럼 학습 단계 전반에 걸쳐 VRAM을 점유하는 메모리입니다. 모델 크기와 파라미터 수에 따라 기본 사용량이 결정되므로 소비자용 GPU에서 먼저 한계에 도달하기 쉽습니다.
