이것이 기술윤리다

감사의 말 5
한국어판 서문 8
서문 14

1. 윤리적 관점에서 기술이란 무엇인가?
1.1 검은 숲의 오두막 29
1.2 기술에 대한 물음: 마르틴 하이데거에서 조안나 브라이슨에 이르는 도구적 기술 이론 33
1.3 ‘포스트현상학’과 기술 매개 이론 39
1.4 단순한 수단이나 도구 이상으로 생각되는 기술 46
1.5 도덕적 행위자로 간주되는 기술 49
1.6 도덕적 피동자로 간주되는 기술 53
1.7 이후 더 자세히 논의될 몇 가지 주요 기술 유형 57
* 주석 달린 참고문헌 65

2. 윤리란, 특히 기술윤리란 무엇인가?
2.1 두 개의 캠페인 67
2.2 고대 그리스의 덕과 인간 번영의 윤리학 72
2.3 고대 중국의 유가 윤리와 남아프리카의 전통 우분투 윤리 78
2.4 칸트 윤리학 85
2.5 공리주의와 결과주의 윤리 이론 89
2.6 일반적으로 윤리가 이전 절에서 논의된 모든 것을 포괄한다면, 과연 윤리가 특별히 기술윤리와 관련해 지니는 의미는 무엇일까? 96
2.7 어떻게 기술윤리는 더 일반적인 윤리 이론의 확장에 도전하고 그 필요를 창출할 수 있는가 100
* 주석 달린 참고문헌 104

3. 기술윤리의 방법: 사례 연구로서 자율주행차의 윤리
3.1 윤리학 방법론? 105
3.2 자율주행차의 윤리 108
3.3 위원회의 윤리 지침 113
3.4 유비를 통한 윤리: 트롤리 문제와의 비교 116
3.5 경험윤리 120
3.6 전통적인 윤리 이론의 적용 126
3.7 기술윤리를 위해 우리는 어떤 방법을 사용해야 하는가? 오직 한 가지 방법? 아니면 여러 방법? 135
* 주석 달린 참고문헌 141

4. 인공지능, 가치 정렬, 그리고 통제 문제
4.1 핵전쟁 회피 사례 143
4.2 인공지능은 무엇이며 가치 정렬이란 또 무엇인가? 147
4.3 좋거나 나쁜, 그리고 도구적이거나 비도구적인 가치와 원칙들 153
4.4 도구적으로 긍정적인 가치 정렬 157
4.5 도구적으로 부정적인 가치 오정렬 160
4.6 비도구적으로 긍정적인 가치 정렬 164
4.7 비도구적으로 부정적인 가치 오정렬 169
4.8 통제 문제 172
4.9 가치로서의 통제: 도구적 또는 비도구적? 통제하려고 해서는 안 되는 기술도 존재할까? 178
* 주석 달린 참고문헌 182

5. 행동 변화 기술, 게임화, 개인 자율성, 그리고 통제의 가치
5.1 더 나은 나? 184
5.2 행동 변화 기술과 게임화 188
5.3 통제에 관한 세 가지 관찰 193
5.4 다양한 철학 분야에서 논의된 통제의 핵심적 차원들 196
5.5 행동 변화 기술 그리고 통제 ‘주체’와 통제 ‘대상’ 201
5.6 통제의 가치와 윤리적 중요성 216
5.7 이 장의 결론 212
* 주석 달린 참고문헌 214

6. 책임과 기술: 틈을 조심하라고?
6.1 두 사건 216
6.2 책임이란 무엇인가? 사람들이 책임을 지게 되는 다양한 방식과 대상들 220
6.3 책임 공백: 개요 225
6.4 기술로 인한 책임 공백 231
6.5 자발적 책임을 통한 책임 공백 메우기 238
6.6 책임 공백을 환영해야 할까? 241
6.7 책임질 수 있는 기계? 246
6.8 인간-기계의 협동 그리고 책임 253
6.9 이 장의 결론 257
* 주석 달린 참고문헌 258

7. 기계는 도덕적 행위자가 될 수 있을까? 모든 기계는 도덕적 행위자가 되어야 할까?
7.1 기계윤리 260
7.2 기계윤리를 지지하는 논증과 인공적 도덕 행위자의 유형 264
7.3 기계윤리 프로젝트에 대한 반론 268
7.4 기계윤리 프로젝트 비판에 대응할 수 있는 방법들 283
7.5 이 장의 결론 293
* 주석 달린 참고문헌 295

8. 로봇은 도덕적 지위를 지닌 도덕적 피동자가 될 수 있는가?
8.1 테슬라봇과 에리카 297
8.2 휴머노이드 로봇이란 무엇인가? 왜 사람들은 휴머노이드 로봇을 만들고자 하는가? 303
8.3 사람들이 로봇에 대해 옳거나 그르게 행동하는 것은 가능한가? 310
8.4 로봇은 도덕과 관련된 속성 혹은 능력을 지닐 수 있는가? 314
8.5 로봇은 도덕과 관련된 속성 혹은 능력을 모방하거나 흉내 낼 수 있는가? 321
8.6 로봇은 도덕과 관련된 속성 혹은 능력을 표상하거나 상징할 수 있는가? 326
8.7 우리는 로봇이 도덕적 지위를 갖는 도덕적 피동자일 수 있는지에 대해 논의해야만 하는가, 아니면 그러지 않는 편이 더 나은가? 334
* 주석 달린 참고문헌 342

9. 친구, 연인, 동료로서의 기술
9.1 레플리카, 척, 하모니 그리고 부머 345
9.2 친구, 연인, 동료서의 기술과는 독립적인 맥락에서 발생하는 윤리적 쟁점들 349
9.3 친구로서의 기술 354
9.4 연인 혹은 연애 파트너로서의 기술 359
9.5 로봇 동료 367
9.6 모 아니면 도? 다양한 관점에 대한 존중 373
9.7 기술이 열어 갈 관계의 미래 377
* 주석 달린 참고문헌 382

10. 기계와의 융합: 인간-기술 관계의 미래
10.1 경험 기계 384
10.2 다양한 기술과의, 혹은 기술의 도움을 받은 융합 방식 390
10.3 트랜스휴머니즘과 포스트휴머니즘: 우리는 사이보그가 되어야 하는가, 혹은 이미 사이보그인가? 395
10.4 기술과의 융합에 대한 비판적 성찰 401
10.5 결론을 내리며: 검은 숲의 오두막 다시 방문하기 408
* 주석 달린 참고문헌 417

역자 후기 419
색인 425

만약 전쟁이 자율무기체계와 같은 기술에 아웃소싱되어 인간이 더 이상 군인의 역할을 수행할 필요가 없게 된다면, 전쟁 윤리와 관련된 여러 전통적인 생각은 근본적으로 뒤흔들릴 것이다. 앞서 언급한 것처럼, 자율적인 군사용 기술은 전쟁 중 사망한 자들에 대한 책임 및 누가 그 책임을 져야 하는지에 대한 기존의 윤리적 생각에 도전할 것이다. 일반적으로 생사를 결정하는 그 어떤 자율 기술도 도덕적 책임에 대한 우리의 생각을 재고해야 하는지, 도덕적 행위자가 된다는 것이 무엇을 의미하는지에 대한 수많은 질문을 피할 수 없다.

기술윤리에서 전통적 윤리 이론을 활용할 때 발생할 수 있는 한 가지 중요한 문제는 그러한 전통적 윤리 이론이 현대 기술이 개발되기 전에 발전되었다는 것이다. 주요 윤리 이론들은 로봇이나 인공지능, 소셜미디어, 뇌 임플란트 및 도덕적 측면에서 혼란을 초래할 수 있는 새로운 기술이 존재하기 전에 발전되었다. 즉 인간-기계 상호작용이 아니라 인간-인간 상호작용을 염두에 두고 발전되었다는 것이다. 따라서 윤리의 오랜 역사에서 인간-인간 상호작용의 윤리를 위해 만들어진 생각이 우리 사회의 점점 더 증가하는 인간-기술 상호작용에 자연스럽게 적용될 수 있다는 보장은 없다.

공리주의 윤리에서 배울 수 있는 교훈은 자율주행차의 충돌 방식에 대해 우리가 생각할 때 무엇이 전체적인 좋음 및 모두의 행복에 최선인가에 대해 일부 고려해야 한다는 것이다. 칸트 윤리학에서 얻을 수 있는 교훈은 모두에게 동일하게 적용되는 보편 법칙으로 우리가 의욕할 수 있는 규칙을 선택해야 한다는 것이다. 이로써 모든 것에 대한 공정성이 확보되고, 누군가에게 정당화되지 않은 이점을 제공하는 것을 방지할 수 있다. 유가 윤리에서 얻을 수 있는 교훈은 자율주행차가 사회적 조화를 촉진하는 방식으로 프로그램되어야 한다는 것이다. 그리고 우분투 윤리에서 얻을 수 있는 교훈은 자율주행차가 사람들 각자의 인간성이 증진될 수 있는 관계 맺음 방식과 일관되도록 프로그램되어야 한다는 것이다. 이 맥락에서 그것이 의미하는 바가 무엇이든 말이다. 이 모든 생각들을 한데 모으면, 인간 사회에 기술을 도입하는 방법에 대한 일반적이고 더 고차원적인 이상을 형성할 수 있을 것이다.