torch-autocast
자동 혼합 정밀도
PyTorch에서 제공하는 기능으로, 연산의 특성에 따라 FP32와 저정밀도(FP16/BF16) 타입을 자동으로 선택하여 실행한다. 연산 속도를 높이고 메모리를 절약하면서도 중요한 계산의 정밀도를 유지하여 학습 안정성을 보장한다.
자동 혼합 정밀도
PyTorch에서 제공하는 기능으로, 연산의 특성에 따라 FP32와 저정밀도(FP16/BF16) 타입을 자동으로 선택하여 실행한다. 연산 속도를 높이고 메모리를 절약하면서도 중요한 계산의 정밀도를 유지하여 학습 안정성을 보장한다.