단어 위치 회전식 위치 임베딩
표준 RoPE(Rotary Positional Embedding)에 단어 수준의 위치 정보를 결합한 기법이다. 모델이 문맥 내 단어의 위치를 더 빠르게 파악하도록 도와 학습 수렴 속도를 향상시킨다.