최근 XAI 알고리즘 종류 중 하나인 SHAP으로 프로젝트를 수행하고 있습니다. 해당 포스팅에서는 간단히 SHAP을 위해 사용하는 용어들에 대해 정리하고자 합니다. 내용 참고하시고 XAI 프로젝트에 도움이 되었으면 좋겠습니다.
XAI 알고리즘 용어
- Player : Feature
- Game : 예측
- Surrogate Model : 대리 모델 (Explanation model)
- Feature Attribution : 특성 기여도 분석
- Consistency : 일관성
- Multicollinearity : 다중공선성
- SHAP (SHapley Additive exPlanations) : Shapley Value를 사용하여, Additive Method를 만족시키는 Explanation Model
- Conditional Expectation : 조건부 기대 값
- Global Surrogate Analysis : Surrogate Model 구축
- Local Surrogate Analysis : 학습 데이터 하나를 해석
추천글
댓글