그룹 크기(G)
그룹 크기 G는 하나의 KV head를 공유하는 query head 수로 MHA는 G=1, GQA는 G=4,8,16 등이며 MQA는 G=QH이다. 디코드 단계에서 GEMM-M이 G가 되어 G가 커질수록 토큰당 로드되는 KV 데이터가 줄고 연산 이용률이 개선되어 디코드의 산술 집약도가 약 2×G로 증가한다. 반면 프리필은 ISL에 지배되어 G에 둔감하다.
