트랜스포머 사전 학습
대규모 데이터셋을 사용하여 트랜스포머 아키텍처 기반 모델의 기초 가중치를 학습시키는 과정이다. 이 단계에서의 안정성이 최종 모델의 성능과 수렴 속도에 결정적인 영향을 미친다.
RIKEN AIP, EACL 2026에서 차세대 NLP 연구 성과 7편 공개