본문으로 건너뛰기
Group-Query Attention
Group-Query Attention
중급
여러 쿼리 헤드를 묶어 처리하는 주의 메커니즘으로, Reverse-QWK와 함께 메모리 및 계산 효율을 높인다.
비슷한 개념
gqa
grouped-query-attention
mqa-gqa-mha
Reverse-QWK
mqa
multi-head-latent-attention
multi-head-attention
cca
← 용어 사전 전체 보기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지