설명가능한 인공지능(XAI)관련 산업분석보고서

1. 서론 1

2. 설명 가능한 인공지능 개요 2
가. 설명 가능한 인공지능 등장 2
나. 설명 가능한 인공지능 개요 4
다. 설명 가능한 인공지능 범위 및 분류 6
1) 가치사슬 6
2) 용도별 분류 6
3) 기술별 분류 7
4) 이해관계자 기준별 분류 8
라. 설명 가능한 인공지능 모델 설명/해석 방법 10
마. 설명 가능한 인공지능 전망 11
바. 설명 가능한 인공지능 효과 13
1) 기술적인 효과 13
2) 비즈니스 효과 15

3. 설명 가능한 인공지능 기술 동향 17
가. 기존 학습 모델 변형 17
1) 설명 가능한 합성곱 신경망 17
나. 새로운 학습 모델 개발 19
1) 확률적 AND-OR 그래프 기반의 해석 가능한 분류 학습 모델 연구 19
다. 학습 모델 간 비교 20
1) 학습 모델 비교를 통한 범용적 분류 모델 연구 20

라. 대표적인 설명가능 인공지능 방법론 21
1) LIME(Local Interpretable Model-Agnostic Explanation) 22
2) LRP(계층별 타당성 전파; Layer-wise Relevance Propagation) 23
3) DGNN의 생성 경계를 고려한 탐색적 샘플링 방식 24
4) Rule Extraction(규칙 추출) 25
5) Zero Shot learning 26
마. 설명 가능한 인공지능 R&D 관련 시사점 28
1) 완전무결한 묘사 28
2) 설명의 자동화 28
3) 품질 측정 척도 수립 및 개량 28
바. 특허 동향 30
1) 특허동향 분석 30
2) 주요 출원인 분석 33
3) 기술진입장벽 분석 39
4) 요소기술 도출 40

4. 설명 가능한 인공지능 사례 42
가. 의료 인공지능 42
1) 의료 인공지능 현황 42
2) 의료 인공지능 한계 및 문제점 44
3) 연구 사례 46
나. 정보보호 51
1) LRP(Layer-wise Relevance BackPropagation) 51
2) CAM(Class Activation Mapping) 51
3) LIME(Local Interpretable Model-Agnostic Explanations) 53
4) SHAP(SHapley Additive exPlanations) 54
다. 기타분야 57
1) 자율주행 57
2) 의료 진단 57
3) 법률 시스템 57
4) 금융서비스 57
5) 군사 목적 58

5. 설명 가능한 인공지능 시장 동향 59
가. 산업 분석 59
1) 산업의 특징 59
나. 시장 분석 62
1) 세계 시장 62
2) 국내 시장 63
다. 관련 시장 동향 64
1) 인공지능 64

6. 설명 가능한 인공지능 기업 동향 68
가. 해외 기업 68
1) simMachine 68
2) Google 69
3) Nvidia 71
4) Skydisc 73
나. 국내 기업 75
1) 포스코 75
2) 마인드 AI 76
3) 딥인스펙션 77
4) 연구 개발 기관 78

7. 인공지능 관련 트렌드 80
가. 주요 인공지능 알고리즘 트렌드 80
1) 생성적 적대 신경망(Generative Adversarial Networks) 80
2) 심층강화학습 (Deep Reinforcement Learning) 87
3) 전이학습(Transfer Learning) 90
4) 캡슐망(Capsule Networks) 94

8. 결론 96

9. 참고문헌 98