본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

Reverse-QWK (Reverse-QWK) 용어 설명 | AI Trends

Reverse-QWK

Reverse-QWK

중급

키 프로젝션과 스케일 파라미터를 쿼리 쪽으로 이동시켜 다층 cross-attention의 점수를 동일하게 계산하도록 하는 기법.

비슷한 개념

Group-Query Attention attn-lrp cca qk-norm qkv-attention low-dimension-projection fixed-kv-attention mqa

← 용어 사전 전체 보기