본문으로 건너뛰기

context-parallel-training

컨텍스트 병렬 학습

긴 문맥을 처리하기 위해 데이터를 여러 노드로 분할하여 병렬로 학습하는 방식. 분산 환경에서 학습 속도를 높이는 핵심 기술이다.