deterministic-hard-attention

Deterministic Hard Attention은 어텐션 가중치를 학습 가능한 연속 확률 분포로 두지 않고 결정적이고 이산적인 선택 규칙으로 처리하는 방식이다. 이 접근은 추론 중 접근 결정이 예측 가능하고 검증 가능하도록 하며 권한 검사 경로에서 비확률적 동작을 보장한다. 권한 검증이 학습 가중치에 의존하지 않도록 하기 위해 중요하다.