hbm2

HBM2는 고대역폭 메모리 계열로, 메모리 채널을 쌓아 높은 대역폭을 제공한다. GPU와 실리콘 인터포저를 통해 직접 연결되며 대규모 행렬 연산에서 메모리 병목을 완화한다. 이 글에서는 80GB HBM2 용량과 대역폭 제한이 성능에 직결되는 요소로 다뤄진다.