embedl-int8
Embedl INT8
Embedl INT8은 이미지에 표시된 우측 엔진 레이블로, INT8 양자화 기반의 추론 엔진을 의미합니다. 그림에는 '11.8 ms @ threshold 0.80'이 표시되어 있어 동일 모델을 INT8로 실행했을 때 측정된 처리시간을 보여줍니다. INT8은 정밀도를 일부 희생하는 대신 연산 및 메모리 비용을 크게 줄이는 방법으로 엣지 장치에서 선호됩니다.
Embedl INT8
Embedl INT8은 이미지에 표시된 우측 엔진 레이블로, INT8 양자화 기반의 추론 엔진을 의미합니다. 그림에는 '11.8 ms @ threshold 0.80'이 표시되어 있어 동일 모델을 INT8로 실행했을 때 측정된 처리시간을 보여줍니다. INT8은 정밀도를 일부 희생하는 대신 연산 및 메모리 비용을 크게 줄이는 방법으로 엣지 장치에서 선호됩니다.
