본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
inference-overhead
추론 오버헤드
중급
보안 검사나 추가 로직으로 인해 모델 추론 시 발생하는 지연 시간 증가. 보안 조치가 프로덕션 환경에서 채택되지 못하는 주요 원인 중 하나다.
비슷한 개념
inference-crunch
serving-costs
context-overhead
inference-optimization
inference-latency
verification-overhead
inference-efficiency
inference-verification
← 용어 사전 전체 보기
