BERT

트랜스포머의 인코더를 활용하여 문맥을 양방향으로 이해하도록 사전 학습된 모델로, 다양한 자연어 처리 작업에서 높은 성능을 보인다.