Inference silicon
추론 전용 실리콘
모델 추론 작업을 위해 회로·메모리·데이터 경로를 설계한 ASIC/GPU 계열 칩을 가리킨다. 모델 연산을 하드웨어 친화적으로 배치해 전력 효율과 비용 대비 처리량을 최적화하며, 소프트웨어 최적화 없이도 높은 실시간 성능을 달성하려는 목적이 있다.
추론 전용 실리콘
모델 추론 작업을 위해 회로·메모리·데이터 경로를 설계한 ASIC/GPU 계열 칩을 가리킨다. 모델 연산을 하드웨어 친화적으로 배치해 전력 효율과 비용 대비 처리량을 최적화하며, 소프트웨어 최적화 없이도 높은 실시간 성능을 달성하려는 목적이 있다.
