low-rank-projection
저계급 투영
원래의 고차원 행렬에서 상위 k개의 특이성분만 추출하여 근사하는 연산으로서 저장 비용을 크게 줄인다. 논문에서는 ΔW의 상위 저계급 근사를 먼저 취한 뒤 이를 사전학습된 특이벡터 공간으로 투영하여 ΔW*를 구성했다. 이 과정은 추론 효과를 보존하면서 파라미터 축소를 가능하게 했다.
중급
저계급 투영
원래의 고차원 행렬에서 상위 k개의 특이성분만 추출하여 근사하는 연산으로서 저장 비용을 크게 줄인다. 논문에서는 ΔW의 상위 저계급 근사를 먼저 취한 뒤 이를 사전학습된 특이벡터 공간으로 투영하여 ΔW*를 구성했다. 이 과정은 추론 효과를 보존하면서 파라미터 축소를 가능하게 했다.
