semantic-attention

단순한 위치 정보에 의존하기보다 토큰 간의 실제 의미적 연관성과 맥락에 집중하여 정보를 처리하는 어텐션 패턴을 의미한다.