본문으로 건너뛰기

positional-encoding

위치 인코딩

시퀀스 내 토큰의 순서 정보를 모델에 전달하는 기법으로, RePo는 이를 고정 방식에서 내용 기반 동적 재배치 방식으로 개선했다.