보조 헤드
주 손실 외에 중간 출력 위치마다 추가 선형 헤드를 두고 각 토큰의 목표 정보를 예측하게 하는 설계로, 내부 표현에 목적 신호를 주입하여 특정 능력을 유도하는 데 쓰인다. 이 방법은 별도 아키텍처 변경 없이 손실 항만 추가해 학습 신호를 세분화할 수 있다.
