본문으로 건너뛰기

block-influence

블록 영향도

레이어별로 블록이 은닉 상태를 얼마나 변화시키는지를 코사인 유사도로 측정한 지표이다. 낮은 값은 해당 레이어가 출력 표현에 거의 기여하지 않는다는 뜻이며 이를 기준으로 낮은 영향도의 레이어를 제거해 깊이 기반 가지치기를 수행한다. 논문 실험에서 25퍼센트 파라미터 제거 시의 레이어 선택에 이 측정값이 사용되었다.