본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
동적 배칭 (dynamic-batching) 용어 설명 | AI Trends
dynamic-batching
동적 배칭
중급
추론 시 입력 데이터의 개수(배치 크기)를 고정하지 않고 실행 시점에 유연하게 조절할 수 있게 하는 기술이다. 서버 환경에서 처리량을 극대화하기 위해 필수적이다.
비슷한 개념
batched-inference
batch-inference
batch-size
continuous-batching
dynamic-routing
static-batching
selective-batching
inference-optimization
← 용어 사전 전체 보기