hbm
여러 개의 DRAM을 수직으로 쌓아 데이터 전송 속도를 획기적으로 높인 고성능 메모리이다. 대규모 데이터를 빠르게 처리해야 하는 AI 가속기에서 병목 현상을 줄이는 핵심 부품으로 사용된다.
GPU는 비효율적이다? 모델을 칩에 직접 구워 17,000 TPS 구현한 타라스의 혁신
AI 발전의 진짜 적은 철학이 아니라 전력망과 변압기다
에이전트 AI 시대, 30초 지연을 0.6초로 줄이는 하드웨어 혁신
GPU 한계 넘었다... 삼바노바, 단일 노드에서 120B 포함 3개 모델 동시 구동
구글의 7세대 TPU 아이언우드 공개, 추론 성능 4배 향상