본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
배칭 (batching) 용어 설명 | AI Trends
batching
배칭
중급
여러 개의 작은 작업을 하나의 큰 요청으로 묶어서 처리하는 기법입니다. 매번 컨텍스트를 새로 불러오는 오버헤드를 줄여주어 토큰 소모를 최적화하고 일관된 결과를 얻게 합니다.
비슷한 개념
token-delegation
token-usage-optimization
token-management
context-tokens
batch-api
parallel-batching
token-efficiency
token-reduction
← 용어 사전 전체 보기