활성화 엔트로피
신경망의 특정 레이어에서 출력되는 값들의 불확실성이나 정보량을 측정하는 지표이다. 이 값이 너무 낮으면 모델이 특정 결과에 과잉 확신을 하고 있음을 의미하며, 이는 실제 정답 여부와 상관없이 환각을 일으키는 징후가 된다. 이를 제어함으로써 모델의 출력 신뢰도를 조정할 수 있다.