attention

입력 시퀀스의 모든 토큰 간 관계를 비교해 중요한 부분에 더 집중하도록 하는 핵심 기법으로, Q/K/V를 이용해 각 토큰의 중요도를 계산한다.