회전 위치 임베딩
토큰의 상대적 위치 정보를 복소수 회전 연산을 통해 어텐션 메커니즘에 주입하는 기법이다. 긴 시퀀스에서도 위치 관계를 효과적으로 유지하며 외삽 성능이 뛰어나 비디오와 같은 긴 시퀀스 데이터의 일관성을 유지하는 데 중요하다.