shap

게임 이론을 바탕으로 각 특성이 모델의 예측값에 미치는 영향력을 수치화하는 방법이다. 모델의 블랙박스 내부를 들여다보고 의사결정 근거를 파악하는 데 사용된다.