continual-pre-training
지속적 사전 학습
이미 대규모 데이터로 학습된 베이스 모델에 특정 언어나 도메인의 데이터를 추가하여 지식을 확장하는 학습 방식이다. 처음부터 학습하는 것보다 비용이 저렴하며 기존 모델의 추론 능력을 유지하면서 특수 목적 성능을 높이는 데 사용된다.
중급
지속적 사전 학습
이미 대규모 데이터로 학습된 베이스 모델에 특정 언어나 도메인의 데이터를 추가하여 지식을 확장하는 학습 방식이다. 처음부터 학습하는 것보다 비용이 저렴하며 기존 모델의 추론 능력을 유지하면서 특수 목적 성능을 높이는 데 사용된다.