가상 가중치 행렬
트랜스포머의 여러 레이어에 걸친 선형 연산들을 하나의 행렬로 결합하여 표현한 추상화된 가중치 구조이다. 중간의 비선형 활성화 함수를 생략하고 레이어 간의 직접적인 정보 흐름을 선형 대수적으로 분석할 때 사용된다.