hb-memory-b200
HBM (B200/B300)
GPU에 탑재된 고대역폭 메모리로 Blackwell B200은 180GB, B300은 268GB 수준의 확장된 용량을 제공해 더 큰 배치와 긴 시퀀스 처리에서 메모리 압박을 완화한다. 메모리 여유는 모델 샤딩을 단순화하고 노드 수를 줄이는 데 기여한다.
중급
HBM (B200/B300)
GPU에 탑재된 고대역폭 메모리로 Blackwell B200은 180GB, B300은 268GB 수준의 확장된 용량을 제공해 더 큰 배치와 긴 시퀀스 처리에서 메모리 압박을 완화한다. 메모리 여유는 모델 샤딩을 단순화하고 노드 수를 줄이는 데 기여한다.