continual-pre-training
지속적 사전 학습
Continual Pre-training은 이미 사전 학습된 모델을 새로운 데이터나 도메인에 이어서 학습하는 방식이다. post-training을 거치지 않은 체크포인트를 출발점으로 제공하면 coding, 금융, 의료 같은 분야에 맞춘 추가 학습을 수행할 수 있다.
지속적 사전 학습
Continual Pre-training은 이미 사전 학습된 모델을 새로운 데이터나 도메인에 이어서 학습하는 방식이다. post-training을 거치지 않은 체크포인트를 출발점으로 제공하면 coding, 금융, 의료 같은 분야에 맞춘 추가 학습을 수행할 수 있다.
