eXplanable_AI : AI의 결정 과정을 인간이 이해할 수 있는 형태로 설명하는 기술

XAI 기술 종류

1. Feature importance Analysis(특성 중요도 분석): 모델의 예측에 있어서 가장 큰 영향을 미치는 특성(변수) 추출

2. Decision Trees(결정 트리) : 규칙 기반의 접근 방식을 사용하여 예측을 생성

3. Local Interpretable Model-agnostic Explanations, LIME : blackbox model과 같이 복잡한 모델의 예측을 로컬로 근사하는 간단한 모델을 생성하여, 특정 예측에 대한 모델의 작동방식을 설명

4. Shapely Additive exPlanations, SHAP : SHAP는 게임 이론에서, 영감을 받은 방법으로, 각 입력 변수가 모델의 예측에 기여하는 정도를 정량화하여, 모델의 전반적인 작동 원리를 이해하는데 도움