어텐션 증폭
어텐션 증폭은 특정 디코딩 시점에 대상 청크의 post-softmax 어텐션 가중치를 배수로 증가시키고 정규화하여 해당 모달리티로의 주의를 강화하는 테스트 시점 개입이다. 논문은 청크별 원래 어텐션 질량 α_t(c_k)와 증폭 인자 β를 사용해 유효 증폭 γ_k를 유도하고, 역할 기반 시점에만 증폭할 때 유의미한 성능 향상이 관찰된다고 보고했다. 전층 전헤드에 대해 균일하게 적용하였고 과도한 증폭은 성능 저하를 유발함이 확인됐다.
