이중 채널 어텐션
기존 모델의 어텐션 레이어 옆에 새로운 학습 채널을 병렬로 추가하는 구조다. 기존 지식을 보존하면서 새로운 도메인 지식을 습득할 때 발생하는 치명적 망각 문제를 해결하는 데 중요하다.