본문으로 건너뛰기

Data Collator

데이터 콜레이터

데이터셋의 개별 샘플들을 모아 모델 학습에 적합한 배치(Batch) 형태로 구성하는 컴포넌트이다. 패딩 처리, 특수 토큰 추가, 텐서 변환 등의 전처리를 수행하며 모델 아키텍처가 요구하는 입력 형식을 맞추는 역할을 한다.