최근 설명 가능한 AI (eXplainable AI : XAI) 프로젝트를 수행 중에 있습니다. XAI 종류 중 SHAP을 이용해서 AI 과제를 수행 중에 있는데, 이번 포스팅에서는 SHAP을 위해 꼭 필요한 개념인 Shapley Value의 설명 및 예시에 대해 여러분과 공유하고자 합니다.
Contents
Shapley Value 설명
Shapley Value는 SHAP이라는 XAI를 위해 사용되는 값입니다. 즉, Black-box인 AI 모델을 설명하기 위해 도입한 것이 Shapley Value입니다. 해당 값은 기본적으로 게임이론을 바탕으로 여러 변수 중 한 가지 변수가 결과에 미치는 중요도를 판단하기 위해 도입한 값입니다.
Shapley Value 용어
- Game : 예측 작업
- Players : Feature Values
- Prediction : 예측 결과 (보수 (Payout))
Shapley Value Definition
Shapley Value의 계산식은 다음과 같은데, Feature i가 있을 때와 없을 때의 Score 차이를 기여분으로 계산하고, 가중평균을 구하는 방식으로 계산됩니다.
Shapley Value 특징
- Consistency : 매 회 계산시 동일 같 출력
- Multicollinearity : 서용 영향 미칠 가능성 고려
- Feature Importance는 불가능한 음의 영향력 고려
추천글
댓글