본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

웜업 단계 (warmup-steps) 용어 설명 | AI Trends

warmup-steps

웜업 단계

입문

학습 초기 단계에서 학습률을 0 또는 매우 작은 값에서 목표치까지 서서히 높이는 구간이다. 이는 초기 가중치의 불안정성으로 인해 학습이 발산하는 것을 방지한다.

비슷한 개념

warmup initialization learning-rate zero-initialization sft-warm-up learning-rate-scheduling weight-divergence training-instability

← 용어 사전 전체 보기