인공지능 원론

01 인공지능, 왜 설명가능성인가? [고학수, 박도현]
Ⅰ. 들어가며 3
Ⅱ. 인공지능의 개념정의 3
Ⅲ. 인공지능의 설명가능성 12
Ⅳ. DARPA의 설명가능 인공지능 프로젝트 18
Ⅴ. 설명가능성과 해석가능성 19

02 인공지능의 작동원리와 설명가능성에 대하여 [김용대, 윤성로]
Ⅰ. 서론 25
Ⅱ. 인공지능 작동원리 28
Ⅲ. 기계학습 알고리즘 소개 45
Ⅳ. 인공지능 모형의 해석/설명가능성 66

03 인공지능의 작동원리와 설명가능성에 대하여 -고급 인공지능 학습 및 해석/설명 방법론- [김시원, 윤성로, 김용대]
Ⅰ. 통계적 방법론의 학습 및 해석/설명가능성 83
Ⅱ. 딥러닝모형의 학습 및 해석/설명 101
[부 록] 독일 신용데이터(German credit data) 소개 135

04 인공지능의 투명성과 설명가능성에 대한 법철학적 고찰 [박도현]
Ⅰ. 논의의 출발점 143
Ⅱ. 인공지능의 투명성 146
Ⅲ. 인공지능의 설명가능성 153
Ⅳ. 맺음말 159

05 법적 관점에서 바라본 설명가능성: GDPR의 정보제공의무를 중심으로 [이선구]
Ⅰ. 서론 165
Ⅱ. GDPR의 정보제공의무 168
Ⅲ. 정보제공 이외의 제도적 방안 181
Ⅳ. 결론 187

06 의료 영역에서 인공지능의 활용과 설명가능한 인공지능의 필요성 [김정훈]
Ⅰ. 의료 영상 영역에서의 인공지능 연구 현황 197
Ⅱ. 의료 영상 영역에서 인공지능의 임상적용 현황 200
Ⅲ. 의료 영역에서 개발된 AI 기술이 실제로 임상 진료에 적용될 시 고려할 점 203
Ⅳ. 의료 영역에서 설명가능한 인공지능의 필요성 207

07 설명가능성을 넘어: 신뢰할 수 있는 인공지능을 위한 과제 [고학수]
Ⅰ. 들어가는 말: 인공지능 기술, 윤리, 법 215
Ⅱ. 인공지능 투명성(Transparency)과 설명가능성(Explainability) 218
Ⅲ. 설명가능성이 요구되는 이유 223
Ⅳ. 설명의 원칙 225
Ⅴ. 공정한 인공지능(Algorithmic Fairness) 229
Ⅵ. 결론 233

<머리말>

인공지능에 대한 관심이 크게 늘고 있다. 대학에서의 연구도 매우 활발하게 이루어지고 있고, 이를 상용화하거나 실제 기업 현장에 적용하기 위한 노력 또한 활발하게 이루어지고 있다. 인공지능이라는 이름으로 불릴 수 있는 기술은 실제로는 매우 다양한 기술을 포괄한다. 이 중에는 매우 초보적이고 간단한 유형의 기술도 있고, 다른 한편 전문가들도 이해가 쉽지 않은 복잡한 방식도 지속적으로 개발되고 있다.
인공지능 기술은 적지 않은 경우에 응용과정을 거쳐 우리가 일상적으로 이용하는 상품과 서비스에 반영된다. 인공지능은 대부분의 경우에 우리의 생활을 편리하게 해 주지만, 동시에 불안감을 야기하는 경우도 있다. 불안감이 나타나는 배경 이유 중 하나는 흔히 ‘블랙박스’라고 부르는 인공지능, 특히 딥러닝 인공지능의 속성에 있다.
그런데 ‘블랙박스’라는 표현을 통해, 인공지능이 인간의 인지능력을 뛰어넘는 ‘미지의 영역’에 속하는 것이라는 환상을 갖게 되는 것은 아닐까? 기술에 대한 비현실적 환상과 비합리적 불안감은 묘하게 연결되어 있는 것으로 보인다. 사실 복잡한 인공지능이라고 해도 작동방식이나 판단과정에 대한 이해가 전혀 불가능한 것은 아니다. 인공지능의 작동에 대해 속속들이 파악하는 것이 어렵다고 하더라도, 예를 들어, 어떤 유형의 모형이 활용되었는지를 통해 작동방식에 대해 개략적으로 가늠할 수 있는 면도 있고, 학습을 위해 어떤 데이터가 이용되었는지를 통해 부분적인 파악이 가능한 면도 있고, 또는 입력값과 결괏값을 분석하여 이해가 가능한 면도 있다. 그런 점에서, ‘블랙박스’라는 표현은 오해의 소지가 많은 표현이다.
이 책은 이러한 문제의식을 바탕으로 하여 인공지능의 원리에 대해 소개하는 것을 주목적으로 한다. 인공지능이 사회 여러 곳에 본격적으로 도입되는 과정에서 이용자들의 신뢰(trust)를 얻을 수 있는지 여부가 결국 기술의 장기적 성패를 가르는 핵심 요소라는 판단을 전제로, 이를 위한 전제 조건으로 흔히 언급되는 투명성(transparency), 설명가능성(explainability) 등의 개념을 어떻게 바라볼 것인지에 대한 저자들의 고민을 담은 것이다. 투명성과 설명가능성 등의 개념을 염두에 두고, 인공지능에 대한 일반적인 설명을 제공하는 동시에 설명가능성에 대한 최근의 연구 흐름을 담기 위해 노력하였다. 또한 관련 이슈들에 대한 법적 논의나 의학 영역에서의 현실적 응용도 포함하였다.
인공지능의 투명성과 설명가능성에 관해서는 몇 년 전부터 학계의 관심이 늘어나면서 매우 활발하게 연구가 진행되는 영역이다. 이 영역의 연구가 축적되면서 인공지능에 대한 사회적 신뢰의 확보에도 점차 더 많은 기여를 할 수 있을 것으로 본다.
집필진의 연구작업은 2018년에 시작되었다. 이 작업의 문제의식을 적절히 반영한 연구작업의 추진을 위해서는 다양한 학문배경을 가진 연구진의 구성이 필수적이었다. 그래서 공학, 통계학, 법학, 의학을 포함한 다양한 학문 영역의 소양을 가진 연구진이 꾸려졌고, 연구진 사이에 주기적으로 의견교환을 하는 자리가 마련되었다. 여러 영역의 연구진이 함께 작업을 하면서, 작업의 진전은 더디게 이루어졌다. 하지만 서로의 영역에 대한 이해도를 높이는 매우 소중한 기회로 작동하기도 하였다.
이 작업은 다양한 학문 배경을 가진 연구진의 적극적 참여가 없이는 진전이 매우 어려운 작업이었다. 참여해 주신 연구진 여러분께 다시 한번 감사의 마음을 전한다. 작업의 진행과정에서 많은 역할을 한 박도현 박사에게 특히 고마운 마음을 전한다. 책자 발간을 위해 신경써 주신 박영사 조성호 이사님 그리고 멋진 책자를 만들어 내주신 윤혜경 선생님을 비롯한 편집 담당자 여러분께도 깊은 감사의 뜻을 전한다. 이 작업은 서울대학교 융?복합 연구과제의 일환으로 진행된 것이다. 다학제적 융합연구에 대한 지원 프로그램을 마련하고 지원해 주신 학교 측에도 감사드린다.