피처 영향력
특정 입력 변수가 모델의 예측 결과에 얼마나 기여하는지를 수치화한 지표이다. 특정 피처의 값을 무작위로 섞었을 때 모델 성능이 얼마나 떨어지는지를 측정하는 Permutation Importance 방식이 주로 사용된다. 이를 통해 모델이 어떤 데이터를 근거로 판단을 내리는지 해석할 수 있다.