본문으로 건너뛰기

Straight-Through Estimation

Straight-Through Estimation

이산값 연산의 순전파와 미분 불가능한 지점을 우회해 학습하는 기법이다. 이 글에서는 이진 마스크를 학습하기 위한 gradient 경로로 사용되며, 그 자체가 망각 원인인지가 후속 쟁점으로 남는다.