본문으로 건너뛰기

attention-map

어텐션 맵

Transformer 모델에서 각 토큰이 서로에게 얼마나 집중하는지를 나타내는 행렬이다. 모델의 추론 과정과 정보 흐름을 시각화하고 분석하는 데 중요한 역할을 한다.