hot-swapping
시스템 가동 중 장치나 구성 요소를 교체하는 기술로 여기서는 추론 중 메모리 내 AI 모델을 즉각 교체하는 하드웨어 가속 기법을 의미한다.
에이전트 AI 시대, 30초 지연을 0.6초로 줄이는 하드웨어 혁신