masked-autoencoders

입력 이미지의 일부 패치를 무작위로 가린 뒤 가려진 픽셀을 재구성하도록 학습하는 자기지도 학습 기법이다. 가려진 영역을 복원하려면 모델이 국소 기호와 전역 문맥을 모두 추론해야 하므로 악보처럼 구조적 기호가 많은 도메인에서 시맨틱한 표현을 획득하는 데 유리하다. 본문에서는 MAE의 비대칭 인코더·디코더 구조와 높은 마스킹 비율이 악보 언어 학습에 적합하다고 보고되었다.