본문으로 건너뛰기

pretrain-then-transfer

사전학습 후 전이

대량의 행동 로그로 트랜스포머 계열 인코더를 사전학습한 뒤 다운스트림 추천 과제(검색, 랭킹 등)에 해당 가중치를 이관하고 재학습하여 성능을 향상시키는 파이프라인입니다. 스트리밍 환경에서는 사전학습을 재갱신하면서 전이를 유지하는 문제가 핵심입니다.