onnxruntime-web

onnxruntime-web은 브라우저 환경에서 ONNX 모델을 실행하기 위한 런타임으로, WASM이나 WebGPU를 통해 클라이언트 사이드 추론을 수행한다. 작성자는 이 런타임을 사용해 서버 전송 없이 웹페이지 내에서 이미지당 수밀리초 수준의 추론을 달성했고 최종 모델 용량은 약 9MB로 보고됐다. 브라우저 내 추론은 개인정보 유출 위험을 낮추고 네트워크 지연을 제거하는 장점이 있다.