본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

배칭 (batching) 용어 설명 | AI Trends

batching

배칭

중급

여러 개의 작은 작업을 하나의 큰 요청으로 묶어서 처리하는 기법입니다. 매번 컨텍스트를 새로 불러오는 오버헤드를 줄여주어 토큰 소모를 최적화하고 일관된 결과를 얻게 합니다.

비슷한 개념

token-delegation token-usage-optimization token-management context-tokens batch-api parallel-batching token-efficiency token-reduction

← 용어 사전 전체 보기