왜 로봇의 도덕인가

감사의 말씀

프롤로그_ 로봇의 도덕을 구현하는 일은 인간을 이해하는 과정이다

1장_ 왜 로봇의 도덕인가?
2장_ 공학 윤리
3장_ 인류는 컴퓨터가 도덕적 의사결정을 내리기를 원하는가?
4장_ (로)봇이 정말로 도덕적일 수 있는가?
5장_ 철학자, 공학자 그리고 AMA의 설계
6장_ 하향식 도덕
7장_ 상향식 그리고 발전적 접근법
8장_ 하향식과 상향식의 병합
9장_ 베이퍼웨어를 넘어서?
10장_ 이성을 넘어
11장_ 인간과 비슷한 AMA
12장_ 위험, 권리 그리고 책임

에필로그_ (로)봇의 마음 그리고 인간의 윤리

주석
참고문헌
색인

이 책은 기술 발전이 몰고 올 공포에 관한 내용이 아니다. 우리의 목표는 AMA 설계라는 엔지니어링 과제에 건설적인 지침을 마련해줄 논의의 틀을 잡는 일이다. 우리가 내놓는 예측의 목적은 도덕적 기계에 관한 연구의 필요성에 지금 주목하자는 것이다. 기술이 공상과학 소설을 따라잡게 되는 몇십 년 내지 100년 후가 아니고 말이다.

기계의 도덕 분야는 컴퓨터 윤리 분야를 확장시켜 사람이 컴퓨터로 무엇을 할까 라는 관심을 넘어 기계가 스스로 무엇을 할까 라는 질문을 다룬다. … 우리는 컴퓨터를 명쾌하고 도덕적으로 추론할 수 있도록 만드는 데 관련된 기술적 사안들을 논의할 것이다.
인공지능(arti?cial intelligence, AI)이 자동 행위자의 범위를 확장시켜감에 따라 그러한 행위자들이 인간 도덕 행위자들에게 요구되는 더욱 폭넓은 가치와 법칙을 존중하도록 어떻게 설계할 것인가 라는 문제는 점점 더 긴급한 과제가 돼가고 있다. 인간은 컴퓨터가 도덕적으로 중요한 결정을 내리기를 정말로 원하는가? 기술에 관해 고찰하는 여러 철학자들은 인간이 자신의 책임을 기계에 떠넘기는 것의 위험성에 대해 경고해왔다. 영화와 잡지들은 미래에 발전된 형태의 AI가 가져올 위험을 부각하는 이야기로 가득 차 있다. … 그러므로 이 기술에 이해관계가 있는 사람이라면 누구든 컴퓨터·로봇 그리고 컴퓨터 네트워크 속의 가상 ‘봇 bots’에 도덕적 결정을 실행시키는 과제에 발 벗고 나서야 할 책임이 있다.

〈터미네이터 The Terminator〉의 종말 시나리오도 그 영화의 유통기한인 2029년 이전에는 실현되지 않는다고 보는 편이 타당할 것이다. … 하지만 인류는 공학적으로 설계된 시스템들이 의사결정을 할 수 있고, 이로 인해 인간의 삶에 영향을 미칠 뿐 아니라 윤리적 효과를 야기할 수 있는 지점에 이미 와 있다.