pretraining

대규모 텍스트 데이터를 사용하여 모델이 언어의 구조, 지식, 그리고 다양한 인간적 특성을 학습하는 초기 단계이다. 이 과정에서 모델은 수많은 페르소나를 시뮬레이션할 수 있는 기초 능력을 갖추게 된다.