HBF

HBF는 3D 적층 NAND flash를 활용해 가속기 가까이에 멀티테라바이트급 용량을 제공하는 메모리 계층입니다. HBM보다 큰 용량으로 LLM weight를 저장하면서도 플래시의 읽기 대역폭을 추론에 활용하는 것이 핵심입니다.