액티베이션 차이
기본 모델과 파인튜닝된 모델 사이의 내부 활성화 값(activation) 차이를 가리키는 개념이다. 입력을 넣었을 때 레이어별 또는 유닛별로 나타나는 값들의 차이를 계산하면 파인튜닝이 남긴 내부적 흔적을 포착할 수 있다. 원문에서는 Activation Difference를 활용한 ADL(Activation Difference Lens)이 백박스 접근으로 추론을 조작하는 기존 방법으로 소개되었다.