최근 XAI 알고리즘 종류 중 하나인 SHAP으로 프로젝트를 수행하고 있습니다. 해당 포스팅에서는 간단히 SHAP을 위해 사용하는 용어들에 대해 정리하고자 합니다. 내용 참고하시고 XAI 프로젝트에 도움이 되었으면 좋겠습니다.
XAI 알고리즘 용어
- Player : Feature
- Game : 예측
- Surrogate Model : 대리 모델 (Explanation model)
- Feature Attribution : 특성 기여도 분석
- Consistency : 일관성
- Multicollinearity : 다중공선성
- SHAP (SHapley Additive exPlanations) : Shapley Value를 사용하여, Additive Method를 만족시키는 Explanation Model
- Conditional Expectation : 조건부 기대 값
- Global Surrogate Analysis : Surrogate Model 구축
- Local Surrogate Analysis : 학습 데이터 하나를 해석
추천글
'Machine Learning' 카테고리의 다른 글
| XAI SHAP 파이썬 예제 - Summary, Force, Interaction, Dependence Plot 해석 (0) | 2022.04.10 |
|---|---|
| 게임이론 in XAI SHAP (Game Theory) (0) | 2022.04.06 |
| Shapley Value 설명 in eXplainable AI SHAP (0) | 2022.04.05 |
| XGBoost 개념 및 초모수 튜닝 (Hyperparameter Tuning) (0) | 2021.05.28 |
| 파이썬 텐서플로우 One hot Encoding 예제 코드 (Python Tensorflow) (0) | 2021.04.10 |