인코더
입력 데이터를 고정된 크기의 벡터 표현으로 변환하는 신경망 구성 요소이다. 문맥 전체를 조망하여 입력된 텍스트의 의미를 압축하고 이해하는 데 최적화되어 있으며 BERT의 핵심 구조를 이룬다.