본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
Reverse-QWK
Reverse-QWK
키 프로젝션과 스케일 파라미터를 쿼리 쪽으로 이동시켜 다층 cross-attention의 점수를 동일하게 계산하도록 하는 기법.
비슷한 개념
Group-Query Attention
attn-lrp
attention
cca
qk-norm
qkv-attention
low-dimension-projection
transposed-attention
← 용어 사전 전체 보기