ncnn

Tencent에서 개발된 경량 C++ 추론 런타임으로 CPU 환경에서 SIMD와 멀티스레딩 최적화를 통해 신경망을 실행한다. 다양한 프레임워크로부터 모델을 변환해 엣지와 모바일 환경에서 낮은 의존성으로 사용하도록 설계되었다.