폰 노이만 병목 현상
프로세서와 메모리 사이의 데이터 전송 속도가 연산 속도를 따라가지 못해 전체 시스템 성능이 저하되는 현상이다. GPU 추론에서 VRAM과의 잦은 통신이 이 병목을 유발한다.
GPU보다 10배 빠르고 저렴한 '하드와이어드' LLM 칩의 등장