사후 학습 데이터 합성
모델의 기본 학습이 끝난 후, 특정 작업 성능을 높이기 위해 LLM을 사용하여 추가적인 학습 데이터를 스스로 생성해내는 기법입니다. 이는 데이터 부족 문제를 해결하고 모델의 전문성을 강화하는 데 중요합니다.
4B 모델로 17배 큰 모델 압도, 제약 조건 가이드 데이터 합성의 힘