본문으로 건너뛰기
Safe Initialization
안전한 초기화
초기화 시 0으로 시작하는 로그잣값에서 Softmax가 uniform하게 작동하도록 하여 전이 과정에서의 정보 손실 없이 미세조정이 가능하게 한다.
비슷한 개념
Zero-initialization
Softmax Function
softmax-classifier
pretraining-stability
Logit-Weighted Continuous Scoring
Linear learning-rate warmup
Softmax Distribution
Softmax Attention
← 용어 사전 전체 보기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필