PreNorm dilution
Residual stream의 Magnitude 증가로 인해 노멀라이제이션(PreNorm) 이후 각 층의 출력이 점점 확산되듯 커지는 현상으로, 깊은 DiT에서 정보 손실과 gradient 흐름 불균형을 초래한다.