deepstream-sdk

DeepStream SDK는 NVIDIA가 제공하는 스트리밍 비디오 분석용 추론 파이프라인 프레임워크로, GPU 가속을 이용해 입력 프레임의 전처리, 배치 처리, 추론, 후처리를 연속적으로 처리한다. 다양한 추론 엔진과 연동해 실시간 처리량을 최적화하며 멀티 스트림과 하드웨어 가속 기능을 통해 지연을 낮춘다. 비전 모델을 프로덕션 수준의 파이프라인으로 배치할 때 입력 파이프라인 구성과 출력 라우팅을 단순화한다는 점이 중요하다.