인공지능 2

PART V 기계학습
CHAPTER 19 견본에서 배우는 학습 ∙ 3
19.1 학습의 여러 형태 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 4
19.2 지도학습 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 6
19.3 결정 트리의 학습 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 11
19.4 모형 선택과 최적화 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 21
19.5 학습 이론 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 30
19.6 선형 회귀와 분류 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 35
19.7 비매개변수 모형 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 47
19.8 앙상블 학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 59
19.9 기계학습 시스템 개발 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 69
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 81
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 82

CHAPTER 20 확률 모형의 학습 ∙ 89
20.1 통계적 학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 90
20.2 완전 데이터를 이용한 학습 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 93
20.3 은닉 변수가 있는 학습: EM 알고리즘 ••••••••••••••••••••••••••••••••••••••••••••••••• 109
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 119
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 120

CHAPTER 21 심층학습 ∙ 125
21.1 단순 순방향 신경망 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 127
21.2 심층학습을 위한 계산 그래프 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 133
21.3 합성곱 신경망 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 137
21.4 학습 알고리즘 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 144
21.5 일반화 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 148
21.6 순환 신경망 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 153
21.7 비지도학습과 전이학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 157
21.8 응용 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 165
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 168
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 168

CHAPTER 22 강화학습 ∙ 173
22.1 보상 기반 학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 173
22.2 수동 강화학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 176
22.3 능동 강화학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 183
22.4 강화학습의 일반화 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 191
22.5 정책 검색 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 199
22.6 견습 학습과 역강화학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 202
22.7 강화학습의 응용 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 206
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 209
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 211

PART VI 의사소통, 지각, 행동
CHAPTER 23 자연어 처리 ∙ 217
23.1 언어 모형 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 218
23.2 문법 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 231
23.3 파싱 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 233
23.4 증강 문법 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 240
23.5 실제 자연어의 복잡한 사항들 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 246
23.6 자연어 처리 과제들 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 250
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 252
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 253

CHAPTER 24 자연어 처리를 위한 심층학습 ∙ 259
24.1 단어 내장 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 260
24.2 NLP를 위한 순환 신경망 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 264
24.3 순차열 대 순차열 모형 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 268
24.4 트랜스포머 구조 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 274
24.5 사전훈련과 전이학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 277
24.6 현황 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 282
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 285
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 285

CHAPTER 25 컴퓨터 시각 ∙ 289
25.1 소개 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 289
25.2 이미지 형성 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 291
25.3 단순 이미지 특징 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 298
25.4 이미지 분류 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 306
25.5 물체 검출 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 311
25.6 3차원 세계 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 314
25.7 컴퓨터 시각의 용도 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 319
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 334
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 335

CHAPTER 26 로봇공학 ∙ 341
26.1 로봇 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 341
26.2 로봇 하드웨어 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 342
26.3 로봇공학이 푸는 문제들 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 347
26.4 로봇 지각 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 349
26.5 계획 수립과 제어 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 357
26.6 불확실한 운동의 계획 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 378
26.7 로봇공학의 강화학습 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 381
26.8 인간과 로봇 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 384
26.9 로봇공학의 또 다른 틀 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 394
26.10 응용 영역 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 397
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 400
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••• 402

PART VII 결론
CHAPTER 27 인공지능의 철학, 윤리학, 안전 ∙ 411
27.1 인공지능의 한계 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 411
27.2 기계가 정말로 생각할 수 있을까? ••••••••••••••••••••••••••••••••••••••••••••••••••••••• 416
27.3 인공지능의 윤리 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 418
‣‣ 요약 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 443
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 443

CHAPTER 28 인공지능의 미래 ∙ 451
28.1 인공지능의 구성요소 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 452
28.2 인공지능 구조 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 459

APPENDIX A 수학적 배경 ∙ 465
A.1 복잡도 분석과 O( ) 표기법 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 465
A.2 벡터, 행렬, 선형대수 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 468
A.3 확률분포 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 470
‣‣ 참고문헌 및 역사적 참고사항 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 473

APPENDIX B 언어와 알고리즘에 관해 ∙ 475
B.1 BNF를 이용한 언어의 정의 •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 475
B.2 알고리즘 서술에 쓰이는 의사코드 •••••••••••••••••••••••••••••••••••••••••••••••••••••••• 476
B.3 온라인 보조 자료 ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 478

• 참고문헌 •••••••••••••••••••••••••••••••••••••••••••••••••• 479
• 찾아보기 •••••••••••••••••••••••••••••••••••••••••••••••••• 537

이런 베이즈 접근방식을 철저히 적용한다고 해도 에이전트는 여전히 뜻밖의 죽음을 맞이할 수 있다. 사전 확률에 위험을 암시하는 지각에 해당하는 어떤 정보가 반영되지 않는 한, 에이전트가 흡수 상태로 이어지는 탐험적 동작을 취하는 것을 막을 길은 없다.
예를 들어 예전에는 어린 아이가 높은 곳을 본능적으로 무서워하므로 낭떠러지 쪽으로 기어가지는 않으리라고 믿었지만, 사실은 그렇지 않음이 밝혀졌다(Adolph 외, 2014).

기계가 지능적으로 행동할 수 있다는 가능성 자체에 반대하면서 약 인공지능을 비판한 사람들이 있었는데, 지금 시점에서 보면 그런 사람들은 선견지명이 부족했다고 할 수 있다. 예를 들어 사이먼 뉴컴(Simon Newcomb)은 1903년 10월에 “공중 비행은 인간이 절대로 감당할 수 없는 어려운 문제 중 하나이다”라고 썼지만, 불과 두 달 후에 라이트 형제가 키티호크의 들판에서 유인 동력 비행에 성공했다. 그러나, 최근 인공지능이 급격히 발전했지만 그렇다고 인공지능의 능력에 한계가 없음이 증명된 것은 아니다.

이러한 신뢰성 문제가 두드러지게 노출된 사례가 있다. 1986년 9월 26일 소비에트 미사일 장교 스타니슬라프 페트로프의 컴퓨터 디스플레이에 미사일 공격 경보가 떴다.
프로토콜에 따라 페트로프는 핵 무기 반격 절차를 시작해야 했지만, 그는 그 경보가 시스템의 버그 때문이라고 의심하고는 조사해 보았다. 그가 옳았으며, 덕분에 인류는 제3차 세계대전을 (가까스로) 피할 수 있었다. 그 과정에서 인간의 개입이 없었다면 어떤 일이 일어났을지 우리는 알지 못한다.