sinusoidal-pe

사인과 코사인 함수를 사용하여 절대적인 위치 정보를 생성하는 방식이다. 초기 Transformer 모델에서 사용되었으나, 단어 임베딩에 위치 정보를 직접 더하는 방식 때문에 내적 연산 시 상대적 위치 관계가 왜곡될 수 있는 한계가 있다.