training-instability
학습 불안정성
딥러닝 모델 학습 과정에서 가중치가 비정상적으로 커지거나 손실 함수가 수렴하지 않고 발산하는 현상이다. 수치적 불안정성이 발생하면 학습이 중단되거나 성능이 저하되므로, 이를 조기에 발견하여 컴퓨팅 자원 낭비를 막는 것이 대규모 모델 학습의 핵심적인 과제이다.
중급
학습 불안정성
딥러닝 모델 학습 과정에서 가중치가 비정상적으로 커지거나 손실 함수가 수렴하지 않고 발산하는 현상이다. 수치적 불안정성이 발생하면 학습이 중단되거나 성능이 저하되므로, 이를 조기에 발견하여 컴퓨팅 자원 낭비를 막는 것이 대규모 모델 학습의 핵심적인 과제이다.