logprob-entropy

로그 확률 엔트로피는 모델 출력의 각 토큰에 대한 확률 분포를 엔트로피로 측정해 예측 다변성을 판단하는 지표다. 출력이 반복되거나 미세 튜닝 흔적이 나타나면 엔트로피가 급격히 감소하는 경향이 있어 이상 탐지 경보로 활용된다.