스케일드 닷 프로덕트 어텐션
쿼리와 키의 내적 값을 키 차원의 제곱근으로 나누어 스케일링한 후 소프트맥스를 적용하는 어텐션 방식이다. 값이 커짐에 따라 소프트맥스 함수의 기울기가 작아지는 문제를 방지하여 학습의 안정성을 높이는 역할을 수행한다.