outlier-detection
이상치 탐지
모델 가중치·활성 분포에서 극단값을 찾는 기법을 말하며 본 연구에서는 활성 분포의 스파이크를 통해 슈퍼 웨이트 좌표를 단일 순전파로 식별하는 방식으로 활용되었다. 입력·출력 활성 히스토그램에서 큰 스파이크를 검출하면 해당 채널의 가중치 좌표를 역으로 찾아낼 수 있다. 이 접근은 여러 모델에서 공통으로 관찰되는 현상을 기반으로 한다.
중급
이상치 탐지
모델 가중치·활성 분포에서 극단값을 찾는 기법을 말하며 본 연구에서는 활성 분포의 스파이크를 통해 슈퍼 웨이트 좌표를 단일 순전파로 식별하는 방식으로 활용되었다. 입력·출력 활성 히스토그램에서 큰 스파이크를 검출하면 해당 채널의 가중치 좌표를 역으로 찾아낼 수 있다. 이 접근은 여러 모델에서 공통으로 관찰되는 현상을 기반으로 한다.