인공지능(AI) 법과 공존윤리

제1편 법과 정의론

제1장 법이란 무엇인가? 3
 제1절 법의 의의와 기능 3
제1항 법의 사회규범성 3
Ⅰ. 법의 의의와 개념 3
Ⅱ. 법의 역사 6
Ⅲ. 법의 기능 7
제2항 법의 강제성과 도덕성 9
Ⅰ. 법의 강제성 9
Ⅱ. 법의 도덕성 10
1. 도덕적 법의 필요성과 가능성 10
2. 법의 도덕성 평가의 8가지 기준 11
 제2절 법의 이념 12
제1항 서언 12
제2항 법의 3대 이념 13
Ⅰ. 정의(正義, Justice) 13
Ⅱ. 합목적성(合目的性, purposiveness) 13
Ⅲ. 법적 안정성(法的 安定性) 14
제3항 법(法) 이념의 상충과 조화 15
제4항 법의 변화와 소멸 16
Ⅰ. 법의 변화 16
Ⅱ. 법의 한계 17

제2장 정의론 19
 제1절 정의를 이해하는 3가지 기준 19
제1항 행복 극대화의 관점 19
제2항 정의를 자유와 연관짓는 관점 20
제3항 정의를 좋은 삶, 즉 미덕과 연관짓는 관점 20
제4항 소결어 20
 제2절 정치 철학적 3대 정의론 21
제1항 공리주의(功利主義, Utilitarianism)적 정의론 21
Ⅰ. 서언 21
Ⅱ. 제레미 벤담의 양적 공리주의 22
Ⅲ. 존 스튜어트 밀의 질적 공리주의 24
Ⅳ. 공리주의적 정의론에 대한 비판론 26
1. 공리주의적 정의론에 대한 비판론 일반 26
2. 공리주의적 정의론 비판에 대한 반박론 27
Ⅴ. 공리주의적 정의론 평가 28
제2항 자유주의적 정의론 29
Ⅰ. 존 롤스의 공정 정의론-자유주의적 평등주의 정의론 29
1. 정의는 공정(公正)한 절차의 산물이다! 29
2. 원초상태(Original Position) 30
3. 무지의 장막(veil of ignorance) 31
4. 공정한 절차에서 도출된 두 가지 정의의 원칙 32
5. 존 롤스 공정 정의론에 대한 비판론 35
6. 존 롤스 공정 정의론 결어 39
Ⅱ. 절대 자유주의적 정의론 42
1. 서언 42
2. 로버트 노직의 사상과 절대 자유주의적 정의론 45
3. 절대 자유주의적 정의론에 대한 비판과 결어 48
4. 로버트 노직의 정의론 결어 50
제3항 공동체적 정의론 52
Ⅰ. 공동체적 정의론의 출발점 52
Ⅱ. 공동체적 정의론의 인간형 52
1. 이성적 자유주의적 인간형 52
2. 인간은 서사적(敍事的) 존재 53
3. 공리주의적 정의론과 자유주의적 정의론 비판 54
Ⅲ. 아리스토텔레스의 텔로스(Telos)적 정의론 55
1. 각자에게 각자의 몫을! 55
2. 정의는 실천이다-실천적 지혜(practical wisdom) 56
Ⅳ. 마이클 샌델의 정의론 57
1. 정의는 공공철학이다! 57
2. 정의란 서로가 양보하는 좋은 삶이다! 58
3. 정의를 위해 도덕에 개입하는 정치 59
4. 공화정신(共和情神) 함양을 위한 단체생활의 소중함 60
제4항 정의의 한계 62
Ⅰ. 서언 62
Ⅱ. 정의의 한계 논쟁 62
1. 정의의 한계(1)-정의의 근원성에 대한 도전 62
2. 정의의 한계(2)-옳음(rightness)과 좋음(goodness) 사이의 갈등 63
3. 정의의 한계(3)-정의는 흥정의 산물인가? 64
Ⅲ. 정의의 갈구와 정의의 한계 65


제2편 호모 사피엔스론-인간론(人間論)

제1장 이성론(理性論) 69
제1절 지구의 주인, 호모 사피엔스의 등장 69
제1항 인지혁명과 추상적 실재 69
제2항 이성이란 무엇인가? 72
Ⅰ. 서언 72
Ⅱ. 이성(理性)과 오성(悟性) 그리고 감성(感性) 74
1. 오성(Understanding) 74
2. 감성(Sensibility) 75
3. 이성(理性, reason) 76
Ⅲ. 인간존재 본질적 속성으로서의 이성과 감성의 조화 77
! 제2절 이성의 전개 79
제1항 인류 역사와 이성(理性) 79
Ⅰ. 이성의 시작-고대 그리스 철학(Classical philosophy) 79
Ⅱ. 호모 사피엔스론(On Homo sapiens)의 전개 80
1. 아낙사고라스 80
2. 소크라테스 81
3. 플라톤 82
4. 아리스토텔레스 82
Ⅲ. 근대 이성 83
1. 프랜시스 베이컨 83
2. 르네 데카르트 84
Ⅳ. 인간 이성론의 만개-계몽주의(啓蒙主義) 85
1. 서언 85
2. 토머스 홉스 86
3. 존 로크 87
4. 쟝 자크 루소 87
5. 이마누엘 칸트 88
6. 게오르크 빌헬름 프리드리히 헤겔 90
7. 위르겐 하버마스 90
제2항 반(反) 이성론 91
Ⅰ. 서언 91
Ⅱ. 이성에의 반란 사조 92
1. 생철학(生哲學) 92
2. 실존주의(實存主義, existentialism) 93
3. 해체주의(Deconstruction) 95
Ⅲ. 대표적 이성 비판론자들 96
1. 블레즈 파스칼 96
2. 스피노자 96
3. 데이비드 흄 97
4. 프리드리히 빌헬름 니체 98
5. 지그문트 프로이트 99
6. 막스 셸러 100
7. 미셸 푸코 101
제3항 문명발전의 원동력으로서의 이성론 102
Ⅰ. 이성의 전개 그리고 계몽주의(啓蒙主義)와 인류 번영 102
Ⅱ. 인본주의(humanism) 103
Ⅲ. 근대성의 붕괴와 포스트모던 105
1. 이성 한계 영역의 등장 106
2. 탈근대-포스트모더니즘(postmodernism) 107
Ⅳ. 인간 존엄성에 대한 본질적인 이해 109
Ⅴ. 이성의 역할과 중요성 111
1. 자율적 공동체 생활 터전의 구축 111
2. 정의(正義) 판단의 척도로서의 이성 112
제4항 신(新)계몽주의-신(新)인본주의 114
Ⅰ. 서언 114
Ⅱ. 정통인본주의 115
Ⅲ. 정통인본주의의 분화 115
1. 사회주의적 인본주의 115
2. 진화론적 인본주의 116
제2장 자유론(自由論) 119
% 제1절 자유 개념과 분류 119
제1항 자유의 원리와 개념 119
Ⅰ. 자유의 작동원리 119
Ⅱ. 자유 개념 120
제2항 자유의 분류 122
Ⅰ. 철학적 원리에 따른 자유 개념 122
1. 필연적 자유 결정론 122
2. 자율적 자유론=칸트의 자유론 122
3. 변증법적 자유론 122
Ⅱ. 정치???사회???윤리적 원리에 따른 자유 개념 123
1. 정치적 자유 123
2. 경제적???사회적 자유 123
Ⅲ. 소극적 자유와 적극적 자유 124
1. 소극적 자유(Negative liberty) 124
2. 적극적 자유(Positive liberty) 124
Ⅳ. 자연적 자유, 시민적???법적 자유 그리고 도덕적 자유 125
1. 자연적 자유 125
2. 시민적???법적 자유 126
3. 도덕적 자유 128
Ⅴ. 자유의 평등론-사회(평등)적 자유 개념 129
& 제2절 자유의 속성과 자유주의 사조 130
제1항 자유의 속성론 130
Ⅰ. 자유는 법안에서의 자유 130
Ⅱ. 자연에서 유래한 내재적 한계를 갖는 자유-자연법적 자유 개념 132
Ⅲ. 이성적 명령으로서의 자율적 자유 133
제2항 자유강제-자유의 한계론 136
Ⅰ. 존 스튜어트 밀의 자유 한계론-위해의 원칙(Harm Principle) 136
Ⅱ. 쟝 쟈크 루소의 자유강제 138
Ⅲ. 이마누엘 칸트의 도덕적 자유 강제 141
Ⅳ. 헤겔의 자유강제-인격의 완성(윤리 국가론) 143
Ⅴ. 세계인권선언(UDHR)의 자유 제한 147
Ⅵ. 자유에의 핑계와 두려움 148
제3항 자유의 가치론 149
Ⅰ. 꿈과 희망의 실천가치 149
Ⅱ. 자유는 인간 실존의 근원 149
1. 자유는 앙가주망(Engagement) 149
2. 자유는 ‘초월성’과 ‘주체성’의 결합 150
( 제3절 자유의지와 자유주의 사조론 153
제1항 자유의지론(On free will) 153
제2항 자유주의 사조론 154
Ⅰ. 자유주의(自由主義, Liberalism) 154
Ⅱ. 신자유주의(新自由主義, Neo­liberalism) 156
Ⅲ. 자본주의(capitalism) 157
? 자본주의 1.0 157
? 자본주의 2.0 158
? 자본주의 3.0 158
? 자본주의 4.0 158
Ⅳ. 자유사회주의 또는 사회자유주의(Social Liberalism) 159
Ⅴ. 자유주의와 민주주의의 관계 160
제3항 맺음말 161

제3장 천부인권론(天賦人權論) 165
) 제1절 천부인권의 개념과 의의 165
제1항 서언 165
제2항 존 로크의 천부인권론의 구체적인 내용 167
Ⅰ. 서언 167
Ⅱ. 천부인권의 천부적인 속성 168
1. 천부인권의 자연적 제약 168
2. 불가침성(不可侵性)과 불가양성(不可讓性) 169
3. 불가양성(不可讓性)의 진정한 의미 170
Ⅲ. 사회계약으로 탄생한 국가에의 천부인권 이양의 한계 172
* 제2절 재산권도 천부인권이다 173
제1항 재산권의 성격 173
Ⅰ. 재산권의 천부성-근면한 노동가치설(Labor theory of property) 173
Ⅱ. 재산권은 선(先) 정부성 174
제2항 재산권의 이중성과 합의의 한계 175
Ⅰ. 재산권의 이중성-천부성과 실정성 175
Ⅱ. 합의의 한계 175
Ⅲ. 강제과세의 역효과-국적변경의 정의론 176

제4장 윤리론(倫理論) 179
+ 제1절 윤리와 윤리학 179
제1항 서언 179
제2항 윤리와 윤리학(倫理學) 180
Ⅰ. 서언 180
Ⅱ. 동양 윤리학 182
1. 개관 182
2. 공자(公子)의 윤리 182
3. 맹자(孟子)의 윤리 184
4. 공자와 맹자의 윤리 도덕사상-삼강오륜(三鋼五倫) 184
5. 도가사상(道家思想)의 윤리 185
6. 불교의 자비 사상과 윤리 185
- 제2절 윤리적인 행동이란 과연 무엇인가? 186
제1항 어떤 선택을 할 것인가?-행위의 윤리성 실험 186
? 사례 1. 트롤리카 운전사의 딜레마 186
? 사례 2. 또 다른 트롤리카 사례 186
? 사례 3. 어느 의사의 딜레마 187
제2항 행위의 도덕성 판단 기준에 대한 학설 188
Ⅰ. 결과주의(Consequentialism) 188
Ⅱ. 행위주의 188
Ⅲ. 덕윤리(Virtue Ethics) 189
. 제3절 이마누엘 칸트의 인간 윤리(도덕철학) 190
제1항 서언 190
제2항 인간존재의 본령-이성(理性)과 자유(自由) 191
제3항 칸트의 도덕법칙 193
Ⅰ. 자연법칙과 도덕법칙 193
Ⅱ. 정언명령으로서의 도덕법칙 193
1. 개관 193
2. 제1의 정언명령: 보편화의 원리(Formula of Universal Law) 194
3. 제2의 정연명령: 인간성 목적 대우의 원리
(Formula of Humanity as End) 194
4. 도덕법칙은 자율적 자기 입법으로서의 보편규범 195
Ⅲ. 도덕법칙에 대한 세 가지 의문 196
1. 자율과 의무의 조화 문제 196
2. 지구상에 도덕법칙은 몇 개나 되는가? 197
3. 칸트 도덕철학의 인간 존중과 개별적 감정과의 차이 197
Ⅳ. 소결어 198

제5장 평등론(平等論) 201
0 제1절 평등과 평등권(平等權) 201
1 제2절 평등(平等)의 내용과 판단 기준 204
제1항 평등의 내용 204
Ⅰ. 인격의 평등 204
Ⅱ. 법 앞의 평등(equality before the law) 205
Ⅲ. 기회의 균등(機會均等, Equal Opportunity) 206
제2항 평등 판단 기준 206
Ⅰ. 개관 206
Ⅱ. 절대 평등설 207
Ⅲ. 상대 평등설 208
제3항 차별과 차별 심사기준 208
Ⅰ. 직접차별과 간접차별 208
1. 직접차별 208
2. 간접차별 208
Ⅱ. 적극적 우대조치(Affirmative Action) 209
Ⅲ. 차별심사 기준 210
1. 고전적 심사기준 210
2. 적극적 심사기준 210


제3편 인공지능(AI)시대 법과 윤리

【현실이 된 미래세상】 215

제1장 사이버 세계의 전개 225
2 제1절 사이버스페이스(cyberspace) 225
제1항 서언 225
제2항 사이버스페이스의 특성 227
Ⅰ. 사이버스페이스 그 자체의 3대 속성 227
1. 익명성(anonymity) 227
2. 개방성(openness) 227
3. 자율성(autonomy) 227
Ⅱ. 사이버스페이스의 현실적 특징 228
1. 정보의 근원으로서의 사이버스페이스 228
2. 쌍방향 매체로서의 사이버스페이스 228
3. 네트워크로서의 사이버스페이스 228
4. 삶의 터전으로서의 사이버스페이스 229
제3항 사이버스페이스의 응용 229
Ⅰ. 오락 분야 229
Ⅱ. 건축 분야 229
Ⅲ. 교육 분야 229
Ⅳ. 의학 분야 230
Ⅴ. 군사훈련 분야 230
Ⅵ. 스포츠 분야 230
Ⅶ. 영상산업 분야 231
Ⅷ. 원격존재 분야 231
제4항 사이버스페이스와 호모 사피엔스 232
Ⅰ. 사이버공간(Cyberspace)과 인간 정체성의 형성과 변화 232
1. 자아 정체성 형성의 새롭고 위험한 장(場) 232
2. 인간 발달 환경으로서의 사이버공간 232
3. 사이버중독(cyber addiction) 233
Ⅱ. 사이버공간의 윤리(倫理) 쟁점 233
4 제2절 인류 새로운 전쟁-제5의 전장(戰場) 234
제1항 서언 234
제2항 사이버 간첩(Cyber Espionage) 236
제3항 사이버 전쟁(cyber warfare)의 정의론 238
Ⅰ. 개념 238
Ⅱ. 테러와의 전쟁과 사이버전 239
Ⅲ. 탈린 매뉴얼(Tallinn Manual) 240
1. 의의 240
2. 사이버전(Cyber War) 교전규칙 241

제2장 현대과학기술 243
5 제1절 현대과학기술 진보의 내용 243
제1항 인본주의와 현대과학 243
제2항 극한 행복과 영생(永生)을 향한 인류의 질주 244
Ⅰ. 현대 생명공학 244
Ⅱ. 인공 창의성(artificial creativity)? 246
Ⅲ. 전자적 알고리즘과 인공지능 로봇(Cognitive robotics) 248
Ⅳ. 스마트 시티와 스마트 모빌리티-시공간 융합과 이동의 지능화 249
Ⅴ. 미래학자 커즈와일(Ray Kurzweil)의 8대 미래 예측 250
1. 기술적 특이점(技術的 特異點) 250
2. 레이 커즈와일의 미래세상 250
Ⅵ. 소결어 252
7 제2절 현대과학기술의 본질 252
제1항 과학과 기술의 의의와 어원(語源) 252
제2항 기술의 본질-닦달과 몰아세움 254
Ⅰ. 존재에 대한 탈은폐 요구 254
Ⅱ. 현대 과학기술과 인간성의 변형 위험성 255
제3항 존재(存在)의 역운(歷運)과 기술의 위험성에서의 구원의 길 256
Ⅰ. 존재의 역사적 운명(Geschick) 256
Ⅱ. 기술의 위험에서의 구원의 길 258
Ⅲ. 과학기술의 본질과 윤리의 관계 259

제3장 인공지능(AI) 법과 윤리 담론 261
8 제1절 미래사회 새로운 윤리적???법적 쟁점의 대두 261
제1항 트랜스휴머니즘 261
Ⅰ. 트랜스휴머니즘(transhumanism)의 개념과 전개 261
Ⅱ. 포스트휴먼(post­human)과 사회규범의 전개 263
1. 포스트휴먼화(化) 263
2. Riley v. California 사례 264
제2항 인공지능의 핵심요소로서의 전자적 알고리즘 266
Ⅰ. 알고리즘(algorithm)의 개념 266
Ⅱ. 알고리즘의 작동 기제 267
Ⅲ. 알고리즘의 특성 268
1. 권력성 268
2. 정치성 268
3. 비밀성 268
4. 상업성 269
5. 생활 침투성 269
Ⅳ. 알고리즘의 반중립성과 남용 위험성 270
1. 내용 270
2. 구체적인 사례 270
3. 검색 알고리즘의 불가피한 한계 271
제3항 알고리즘의 책임성과 투명성 쟁점 271
Ⅰ. 알고리즘의 책임성 271
1. 문제의 제기 271
2. 책임 귀속성의 구조와 근거 272
3. 책무(責務)와 책임(責任)의 구분론 273
4. 주체별 책임 귀속의 수준 274
Ⅱ. 유럽연합(EU)의 알고리즘 책임성 강화 사례 275
1. 문제의 제기 275
2. 데이터보호지침(DPD) 체제에서 일반데이터보호규정(GDPR)
체제로의 전환 276
3. 설명을 요구할 권리(right to explanation) 276
4. 평가 277
Ⅲ. 알고리즘의 투명성 제고를 위한 대안의 모색 278
제4항 전자적 알고리즘의 의식 테스트 279
Ⅰ. 인공지능의 자의식 부인론: 존 설의 중국어 방(房) 논변(論辨) 279
1. 논변의 전개 279
2. 중국어 방(房) 논변의 추론과 결론 280
Ⅱ. 인공지능의 자의식 가능성론: 튜링 테스트(Turing Test) 281
Ⅲ. 인공지능의 자의식 긍정론-중국어 방(房) 논증 반박론 282
: 제2절 신(新) 도덕행위자 쟁점 283
제1항 호모 사피엔스 대(大) 해부 283
Ⅰ. 서언 283
Ⅱ. ‘정신’ 없는 물리주의 세계 284
Ⅲ. 영혼과 의식 288
1. 호모 사피엔스에게 영혼(靈魂)은 있는가? 288
2. 호모 사피엔스는 다른 동물과는 별개의 의식(意識)이 있는가? 289
3. 소결어 292
Ⅳ. 과연 인간에게 자유의지(自由意志)는 존재하는가? 293
1. 개관 293
2. 경험한 자아(저장된 자아)와 이야기하는 자아! 294
3. 유전자, 호르몬, 뉴런-인간은 생물학적 알고리즘(algorithm)
합성체? 295
4. 리벳 실험-커피잔을 잡을 때 무엇이 손가락을 움직이게 하는가? 296
제2항 신(新)과학 종교-데이터교의 탄생? 298
Ⅰ. 새로운 전자적 알고리즘 데이터교의 태동 298
Ⅱ. 진화하는 전자적 알고리즘-데이터교(신(神))의 출현 300
Ⅲ. 인간존재는 데이터교의 대상이 될 것인가? 신으로 남을 것인가? 302
제3항 초지능으로의 길 303
Ⅰ. 인공지능(Artificial Intelligence: AI)의 개념과 분류 303
1. 인공지능의 개념 303
2. 기능적 수준에 의한 인공지능의 분류 303
3. 인류의 현재 위치-약인공지능으로 둘러싸인 세상 305
Ⅱ. 인공지능의 발전 306
1. 레이 커즈와일의 수확 가속의 법칙(Law of Accelerating
Returns) 306
2. 인공지능의 발전 가능성에 대한 전망 307
Ⅲ. 약인공지능에서 강인공지능 그리고 초인공지능으로의 길 310
1. 쉬운 일과 어려운 일 310
2. 강인공지능으로의 3가지 방법론 311
Ⅳ. 초지능으로의 길 316
1. 초지능으로의 초기진입 316
2. 지능폭발(intelligence explosion)과 재귀적 자체개량 317
< 제3절 전자적 알고리즘의 법률문제 319
제1항 인공지능 창작물과 지적재산권(intellectual property right) 319
Ⅰ. 서언과 현행법 개관 319
Ⅱ. 인공지능 창작물(?) 관련 법적 쟁점 321
1. 개관 321
2. 인공지능(AI) 산출물 등 관련 법적 쟁점 322
Ⅲ. 각국의 정책 및 입법 동향 325
1. 개관 325
2. 일본 326
3. 영미법 327
4. 유럽연합(EU)의 정책 방향 327
Ⅳ. 맺음말 328
제2항 자율주행자동차의 법률문제 330
Ⅰ. 문제의 제기 330
Ⅱ. 현행법에 입각한 자율주행자동차의 법적 책임 333
1. 현행법상 자율주행자동차 및 운전자 개념 333
2. 현행법상 자율주행자동차 사고시 법적 책임 335
Ⅲ. 제도적 개선과 맺는말 341
제3항 (인공지능) 검색 알고리즘의 법률문제 344
Ⅰ. 용어의 개념 344
Ⅱ. 검색 알고리즘 결과물도 표현의 자유 대상인가? 345
1. 원칙-표현의 자유의 광범위한 인정 345
2. 예외-표현의 자유 부인 사례 348
3. 맺는말 350
Ⅲ. 검색 알고리즘과 인격권 침해 352
Ⅳ. 인터넷 서비스사업자(ISP)의 법적 책임에 대한 해외 법리
(판결과 제도) 353
1. 검색엔진의 검색결과로 인한 명예훼손 353
2. 검색 알고리즘과 사생활권 침해 358
Ⅴ. 인터넷 서비스사업자(ISP)의 책임에 대한 국내법원 판결 사례 367
1. 개관 367
2. 명예훼손적 게시물 게재와 방치에 대한 인터넷
서비스사업자(ISP)의 책임 368
3. 대법원 2009년 판결 이후의 동향 374
Ⅵ. 맺는말 381
제4항 인공지능(AI) 치명적 자율무기(LAWs)의 법적 쟁점 384
Ⅰ. 개념과 의의 384
Ⅱ. 치명적 자율무기에 대한 논의와 전쟁 무기에 대한 국제규범 체계 385
1. 치명적 자율무기 찬반론 385
2. 전쟁 무기에 대한 국제규범 체계 386
Ⅲ. 치명적 자율무기(LAWs)의 윤리적 쟁점 388
1. 윤리적???도덕적 해이의 문제 388
2. 생명권 경시의 문제 388
3. 인간의 존엄과 가치 389
4. 인간성의 피폐화와 인간의 수단화 문제 389
5. 독일 연방헌법재판소의 인간 존엄성 추론 390
Ⅳ. 치명적 자율무기(LAWs)의 적법성 테스트 392
1. 현행 국제인도법(IHL)과 국제인권법(IHRL) 392
2. 국제법상 무력충돌에서의 원칙 393
3. 무력충돌 원칙 위배책임 396
Ⅴ. 맺는말 397
> 제4절 인공지능(AI) 윤리론 398
제1항 인공적 도덕행위자(Artificial Moral Agent: AMA)는 가능한가? 398
Ⅰ. 인공적 도덕행위자(AMA)의 윤리 담론(談論) 398
1. 개관 398
2. 인공적 도덕행위자 400
Ⅱ. 도덕성을 기준으로 한 제임스 무어(James H. Moor)의 인공지능
4분류 401
1. 윤리적 영향자(ethical impact agent) 401
2. 암묵적 윤리 행위자(implicit ethical agent) 401
3. 명시적 윤리행위자(explicit ethical agent) 402
4. 완전 윤리행위자(full ethical agents) 402
5. 평가 402
Ⅲ. 인공지능의 윤리적 행동의 토대-무엇을 입력할 것인가? 403
1. 문제의 제기 403
2. 윤리주체와 윤리대상의 구별과 윤리주체 확장 쟁점 404
3. 전자적 알고리즘의 윤리 테스트 406
4. 행위의 윤리성 판단에 대한 3가지 이론 409
5. 인공지능 3주체의 윤리적???법적 책임의 발현 412
Ⅳ. 인공지능의 도덕 추론-어떻게 추론하도록 할 것인가? 413
1. 이성적 도덕 추론 413
2. 도덕 추론에서의 감성의 중요성과 필요성 414
3. 도덕적 추론모형의 구현 415
4. 소결어 416
제2항 인공지능(AI) 윤리 프로그래밍 417
Ⅰ. 개관 417
Ⅱ. 기계윤리 프로그래밍 이론(理論) 420
1. 하향식 접근법 420
2. 상향식 접근법 421
3. 혼합형 접근법 422
Ⅲ. 기계윤리 프로그래밍 방법론(方法論) 423
1. 논리기반 접근법: 큰 것을 알려주고 판단하게 한다 423
2. 사례기반 접근법(case­based reasoning): 인간이 내린
윤리판단에서 배운다 423
3. 다중행위자 접근법-다양한 경우의 수를 계산한다 424
Ⅳ. 기계윤리 프로그래밍의 구체적 사례 425
1. 부르스 맥라렌(Bruce M. McLaren) 박사의 기계 윤리 구현 모델 425
2. 벤자민 키퍼스(Benjamin Kuipers)의 윤리추론 모델 433
3. 키오테(Quixote) 시스템-이야기를 이용한 윤리 가치 학습 436
4. 소결어-기계 윤리프로그램 종합평가 442
제3항 로봇 윤리와 로봇공학 윤리론 442
Ⅰ. 아시모프의 로봇 3법칙(Asimov’s three laws) 442
1. 내용 442
2. 비판론 443
Ⅱ. 머피(Murphy)와 우즈(Woods)의 책임 있는 로봇 3법칙 444
1. 새로운 로봇 윤리 규범 제안 이유 444
2. 책임 있는 로봇 3법칙 445
3. 평가 445
Ⅲ. 스튜어드 러셀(Stuart Russell)의 로봇 3법칙 446
1. 서언 446
2. 인간과 양립 가능한 인공지능 로봇 3법칙 447
Ⅳ. 유럽연합 로봇법(RoboLaw)의 로봇 윤리론 449
1. 유럽 공학계의 전개 449
2. 유럽연합(EU) 로봇 윤리 9대 원칙 451
Ⅴ. 로봇 법칙의 현재적(現在的) 해석 457
제4항 네오 호모 사피엔스론 459
Ⅰ. 욕망하는 테크놀로지와 인공지능(AI) 로봇의 주체적 인격체로의 길 459
Ⅱ. 호모 사피엔스 이외의 제3의 종(種)은 가능한가? 461
1. 제3의 종 논의 461
2. 인간(Human Being)과 사람(Person) 462
Ⅲ. 매개(媒介) 인격체론(mediated person) 466
Ⅳ. 인정투쟁에 의한 도덕적 주체성의 확보 467
1. 인정투쟁론(認定鬪爭論) 467
2. 인정투쟁(認定鬪爭)을 통한 도덕 주체성의 확보 468
Ⅴ. 독립된 인격체론-인공지능의 자가발전 470
Ⅵ. 라이프(Life) 3.0론 472
제5항 공존윤리론-결국 인간과 로봇은 상생의 길을 찾아야! 474
Ⅰ. 라이프 3.0에 대한 인식론 474
Ⅱ. 인공지능 로봇 시대를 살아가는 인간의 두 가지 길 476
Ⅲ. 아실로마 인공지능 원칙(Asilomar AI Principles) 479
1. 서언 479
2. 아실로마 인공지능 원칙(Asilomar AI Principles) 482
A 제5절 인공지능(AI) 법규범론 486
제1항 미래 법률 환경 486
Ⅰ. 개관 486
Ⅱ. 로보 법률가(Robot Jurists) 489
Ⅲ. 미래 법률 환경의 법담론(法談論) 493
1. 서언 493
2. 인간의 존엄과 가치의 수호 493
3. 법률판단 상황의 변모 494
4. 주제별 법담론 495
5. 글로벌 법담론 496
제2항 인공지능(AI) 법규범 사례 498
Ⅰ. 유럽연합(EU) 로봇법(RoboLaw) 프로젝트 498
Ⅱ. 로봇 시민법 500
Ⅲ. 로봇규제 가이드라인(The Guidelines on Regulating Robotics) 503
Ⅳ. 로봇 민사법(Civil law rules on robotics) 503
Ⅴ. 유럽연합 로봇법에 대한 비판론과 전망 505
제3항 미래법학 508
제4항 미래교육 512
Ⅰ. 서언 512
Ⅱ. 미래교육의 방향성 515
1. 서언 515
2. 창조력 향상 교육 517
3. 인성교육 518
4. 분석 종합능력 함양교육 519
5. 평생교육(life­long education) 520
Ⅲ. 미래사회의 인간의 삶과 새로운 불평등 위험성 521
1. 과학기술의 발전과 경제성장-인공지능(AI) 시대의 경제는
성장하여 파이는 커질 것이다! 521
2. 인공지능 미래 시대 일자리 522
3. 기술 진보와 부의 불평등 문제 525
4. 디지털 아테네와 잉여 인간-새로운 기본소득(基本所得)제도? 527
Ⅳ. 맺는말 530

참고문헌 535
찾아보기 540

서문


동국대학교 법과대학의 학부와 대학원에서 강의하면서 항상 느꼈던 문제가 인류가 창안한 추상적 실재에 대한 후손 호모 사피엔스들의 지칠 줄 모르는 의견 대립에 대한 의문이었다. 사실 인류는 현재도 정의, 인권, 구체적으로는 자유와 평등이 무엇인지 또는 무엇이어야 하는지에 대해 공통된 답을 가지고 있지 못하다. 2018년 현재에도 대한민국은 자유주의적 국가와 평등주의적 국가 사이에 정치적/이념적 논쟁을 거듭하고 있다.
웬델 월러치와 콜린 알렌 공저, 『왜 로봇의 도덕인가?』라는 책과 유발 하라리 교수의 사피엔스와 호모데우스라는 책을 읽고 많은 관련 자료를 찾아가다가 인공지능(AI)의 마지막 쟁점이 될 인공지능(AI) 윤리와 법규범에 매진했다. 자료를 수집하며 연구를 하다가 만약 인류가 미래 인공지능(AI)에 대해서도 우왕좌왕하면 어떻게 될 것인가를 생각하니 온몸에 전율을 느끼지 않을 수 없었다. 조금이라도 초지능(Super AI)에 대한 인식이 있는 사람이라면 필자와 동일한 느낌이 들 것으로 확신한다.
눈부신 과학기술의 발전과 전 세계 빼어나고 진취적인 인공지능(AI) 과학자들의 밤낮 없는 노력으로 이 시간에도 인공지능(AI)은 논리적 플랫폼에서 진화를 거듭하고 있다. 호모 사피엔스가 생물학적 플랫폼에서 약 700-600만 년이라는 장구한 세월 동안에 적자생존의 치열한 경쟁을 거치면서 그 DNA에 윤리성과 사회성 인자를 각인시키며 의식을 사후적으로 가다듬어 간 것에 비교해서, 이 순간에도 인공지능(AI)은 매우 빠른 속도로 인위적 진화에 진화를 거듭하는 것이다.
이것이 무서운 것은 최초의 초지능 로봇이라도 인간 두뇌보다 10억 배 이상 똑똑할 것으로 예측되는 인공지능(AI)의 알고리즘에 윤리와 도덕이 빠져 있고, 그를 규율하는 법규범마저 없다면 세상은 네오(Neo) 중세시대를 맞게 될는지도 알 수 없는 일이다. 이에 기왕의 연구 분야인 인권과 정의에 대한 지식을 바탕으로 미래 인공지능(AI)의 법과 윤리에 대한 개론서라도 집필하기로 마음을 먹었다. 그리고 많은 자료를 찾아가며 이해하는 과정에서 상상을 뛰어넘는 희망과 공포를 동시에 느낄 수 있었다.
따라서 이 책은 인공지능(AI)의 과학 기술적인 측면에 대한 서적은 전혀 아니다. 필자는 인공지능(AI)을 인간 이외의 윤리적 주체자로 인정해야 한다고 믿는다. 그리고 인공지능(AI)을 인간이 창조했다고 믿고 싶겠지만, 인공지능(AI)은 존재의 철학자 하이데거가 설파한 것처럼 광대한 우주의 섭리 속에 이미 파묻혀 있던 존재가 탈은폐된 것으로 이해한다. 호모 사피엔스가 우주의 유일한 주인일 수는 없을 것이라는 예감인 것이다.
이 경우에 인류가 인공지능(AI)에 대해 할 수 있는 가장 중요한 영역이, 사물 존재의 탈은폐의 수단인 과학기술의 접목을 빼고는 윤리와 법규범이라고 확신한다. 그러므로 이 책은 미래 인공지능(AI)의 능력에 대해 인류가 할 수 있는 어쩌면 최초이자 최후의 통제장치로서의 윤리의식과 법의식에 관계하는 분들과 관심 있는 분들의 이해와 판단에 도움을 주고자 하는 기초 밑거름일 뿐이다.
지구의 지배자가 된 호모 사피엔스는 다른 동물들과 달리 기업, 사회, 국가와 같은 추상적 실재를 만들어 인류를 집단적 협동세력으로 만드는 데 성공했다. 또한, 권리, 의무, 민주주의, 국민주권, 인권, 윤리 그리고 정의와 같은 보편적 가치 기준을 만들어서 인류의 자기 주체화를 이끌었다. 인류가 자기 주체성을 인공지능(AI) 미래 시대에도 놓치지 않으려면 지금까지의 무분별에서 벗어나 미래에 대해 진지하게 고민할 시점이라고 생각된다. 이런 관점에서 일반인들이 본서를 통해서 그에 대한 의심과 궁금증을 가지는 것만으로도 필자의 목표는 달성했다고 생각한다.
분명하고 명백한 것은 인류의 미래는 지금과는 차원이 다른 인공지능(AI)이라는 새로운 일상적 존재자와 필연적으로 맞닥뜨리게 될 것이다. 그리고 새로 맞게 될 인류의 역사는 지금까지 그래왔던 것처럼 인류가 원하는 방향으로만 흘러가지 않을 것이다. 역사의 진행이 인위적인 대책으로 물길의 흐름이 바뀌지는 않겠지만, 그러나 아무런 대책이 없는 것은 결코 호모 사피엔스의 DNA와 어울리는 일이 아니다. 그런데 어떤 경과에 대한 대책은 먼저 대상에 대한 정확한 지식과 이해가 전제되지 않으면 불가능하고 엉터리 술책이 나올 수밖에 없음을 우리는 이미 많은 경우에 목도했다.
과학기술의 진보는 전 세계에서 초를 달리하며 진행되고 있다. 기술진보는 빼어난 과학자들의 아이디어와 열정으로 진행되고 있다. 그러나 그 결과물을 어떻게 활용할 것인지의 끝에는, 잠시가 될는지도 알 수는 없지만, 법규범이 존재한다. 인간의 손끝에서 껍질을 벗는 최초의 초지능(Super Intelligence)이 인류의 정서와 도덕심을 이어가도록 하는 것은 더욱 중요할 것이다. 그리고 초지능의 학습 DNA 또한 인류의 도덕윤리에 비견되는 선악의 구분 위에서 예(禮)와 선(善)을 익혀나갈 수 있도록 각인된다면 인류는 상상할 수 없는 기술 문명의 축복을 자기 과실로 만든 신 아담과 이브가 될 것이다.
이 책의 집필은 한 곳에서 이루어지지 않았다. 새벽 시간과 수업 이외의 비는 시간에 집필이 이루어지는 관계로 주로 많은 시간을 연구소와 집에서 했다. 그러나 방학과 연휴를 이용하여 울릉도, 제주도 그리고 고향인 설악산에서 사색하면서 집필을 했다. 마지막 탈고는 일본 센다이 야부키에 있는 조용한 휴식처에서 할 수 있었다. 인류와의 새로운 공존 문명이 될 것인지 아니면 인류가 자존심만을 내세우며 친인척 관계를 부인하며 고릴라를 대했던 것처럼, 인공지능(AI)이 호모 사피엔스를 능가하는 새로운 지구의 주인이 되어 인류는 이제 지구의 주인의 자리에서 물러날 것인지를 고민하는 과정은 상상하기도 쉽지 않았던 연유로 이리저리 옮겨 다니며 생각을 이어가게 한 듯하다.
매번 느끼는 일이지만 집필과정은 지난(至難)한 일로 스스로 깨닫고 느끼게 해준 지적 고문의 과정이었다. 특히 새로운 연구 영역에서는 그 방대한 자료를 방향성은 확실하다고 하여도, 어떤 체계 속에 위치시키면서 전체적으로 일관성을 유지하면서 학문적 가치를 유지하는가의 문제이다. 집필의 표준모델도 없는 상황에서 많은 자료를 이해하면서 법과 윤리의 기준에서 인공지능(AI)의 기틀을 잡아가기는 쉽지 않은 일이었다.
이런 과정에서 가장 큰 위안은 무엇보다도 사랑하는 집사람과 아들딸들이었다. 특히 수없이 들은 집사람의 “그만 불 끄고 제발 잠 좀 자자!”라는 말은 또 다른 동력이 되었다. 그리고 나와 집사람을 이 세상에 있게 한 양가 어머님과 오래 전에 고인이 되시어 하늘에 계신 두 분 아버님은 존재 그 자체로 커다란 은총이었다. 또한, 어려운 여건 속에서도 흔쾌히 받아주신 박영사에 대해서도 진심으로 감사드린다.
저자는 본서에 만족하지 않고 부족한 것은 계속 채우며 인공지능(AI) 정의의 쟁점을 천착해가려고 한다. 대한민국이 이러한 미래에 대해 숙고하여, 전 국가적 그리고 전 국민적으로 인공지능(AI)에 대한 선구자의 길에 들어서기를 진심으로 고대한다.

2018년 8월
동국 법학관에서
우담 한희원