본문으로 건너뛰기

position-encoding

위치 인코딩

토큰이나 픽셀 위치를 임베딩에 결합해 순서나 공간 정보를 주입하는 기법으로서 이 논문에서는 1차원 RoPE 확장인 RayPE를 통해 3D 레이 기하학 정보를 주입한다.