Sinkhorn Normalization
Sinkhorn 정규화
행과 열의 합이 각각 1이 되도록 행렬을 반복적으로 스케일링하는 연산으로, mHC에서 residual-mixing 행렬 ℋ_res를 이 폴리토프 위로 투사하여 심층 잔여 흐름의 안정성을 확보하는 데 사용된다. 다중 층을 통과하는 합성 매핑이 신호를 증폭하거나 소실하는 것을 억제해 잔여 학습의 수렴을 돕는다. xHC에서도 활성 스트림에 대해 Sinkhorn 투사를 적용한다.
Sinkhorn 정규화
행과 열의 합이 각각 1이 되도록 행렬을 반복적으로 스케일링하는 연산으로, mHC에서 residual-mixing 행렬 ℋ_res를 이 폴리토프 위로 투사하여 심층 잔여 흐름의 안정성을 확보하는 데 사용된다. 다중 층을 통과하는 합성 매핑이 신호를 증폭하거나 소실하는 것을 억제해 잔여 학습의 수렴을 돕는다. xHC에서도 활성 스트림에 대해 Sinkhorn 투사를 적용한다.
