인공지능에 도덕엔진을 탑재하는 법

추천사 미래 인공지능의 세계에 도덕이 필요하다 (윤성로, 서울대학교 전기정보공학부 교수)
추천사 인공지능에게 어떻게 도덕을 가르칠 것인가 (이일학, 연세대학교 의과대학 의료법윤리학과 교수)

저자 한국어판 서문

역자 서문 곧 도덕적 판단이 가능한 인공지능이 출현할 것이다

프롤로그

첫 번째 강의: ‘사람을 죽여서는 안 된다’는 도덕은 보편적인가?
로봇에게 ‘선악 판단’을 가르치려면 어떻게 해야 하는가?
사회가 살인을 권장하는 경우도 있다?
*첫 번째 강의 정리와 연습문제

두 번째 강의: 지금까지의 도덕사상을 분류해보자
과거의 도덕사상을 둘로 분류하자
사회 중심 사고에는 무엇이 있는가?
사회 중심 사고를 좀 더 조시화해보자
개인 중심 사고에는 무엇이 있는가?
개인 중심 사고를 좀 더 조시화해보자
그 밖의 개인 중심의 도덕사상에는 무엇이 있을까?
더욱 복잡해지는 근현대사상
사회 중심 사고와 개인 중심 사고의 한계
*두 번째 강의 정리와 연습문제

세 번째 강의: 대체 ‘사람을 죽여서는 안 된다’에서 ‘사람’이란 누구인가?
도덕의 구조는 어떻게 되어 있는가
대체 ‘사람’이 의미하는 것은 무엇일까?
그럼 ‘자기편’이란 무엇일까?
인간에게도 동물에게도 공통된 ‘진짜’ 자기편
인간 고유의 ‘가상 자기편’
가상 자기편을 가능케 하는 ‘언어’
인간 언어의 기본적인 특징
‘말의 사용’과 사회성
*세 번째 강의 정리와 연습문제

네 번째 강의: 도덕을 모델화해보자
도덕은 공통 규율과 개별 규율로 이루어져 있다
‘공통 규율’과 ‘개별 규율’을 하나로 묶는 ‘도덕의 기본 원리’는 없을까?
로봇에 탑재해야 할 도덕엔진이란?
*네 번째 강의 정리와 연습문제

다섯 번째 강의: 도덕의 계층을 분류해보자
‘도덕’과 ‘욕망’은 대립하는 것인가?
매슬로의 ‘욕구 5단계설’과 그 한계
새로운 욕망 분류 체계를 생각해보자
우리의 도덕적 차원은 어느 정도인가?
도덕적 차원은 장치로 측정할 수 있다
*다섯 번째 강의 정리와 연습문제

여섯 번째 강의: 로봇에 도덕엔진을 탑재해보자
도덕 알고리즘의 기본적 구성
도덕 알고리즘의 현실적 구성
도덕 알고리즘의 이상적 구성
*여섯 번째 강의 정리와 연습문제

에필로그

연습문제 힌트

이번 강의에서는 인간과 로봇이 공생하기 위해 인간처럼 로봇도 ‘선악 판단’을 가르치려면 어떻게 해야 할지 생각해보겠다. 하지만 로봇의 신변에 일어날 수 있는 모든 일에 대해 하나하나 ‘이건 도덕적으로 옳다.’ ‘이건 도덕적으로 옳지 않다.’ 입력하는 것은 현실적이지 않다. 로봇이 그 어떤 상황에서도 선악 판단을 스스로 할 수 있는 구조를 만들 필요가 있다. 이 강의에서는 이를 ‘도덕엔진’이라고 부르겠다.

로봇에 ‘사람을 죽여서는 안 된다.’ → ‘예스.’라고 입력할 생각이었으나 여기서 알게 된 것처럼 실제 인간 사회는 전쟁이나 사형제도에서 살인을 용인하고 있다. 그리고 그 이유가 ‘사회 중심 사고’와 ‘개인 중심 사고’로 나뉘는 것도 알았다. 이 모순을 제대로 밝히지 않고 로봇의 도덕엔진을 설계하기는 어려울 것이다.
여기서 하나의 가설을 세워보겠다. 인간은 살인을 가장 해서는 안 되는 일로 생각하면서도 용납하고 인정했다. 그 배경이 ‘사회 중심 사고’와 ‘개인 중심 사고’로 나뉜다는 점에 우리 인간 사회의 도덕을 모델화하는 힌트가 숨어 있을지도 모른다. 그뿐만 아니라 지금까지 우리가 해결할 수 없었던 도덕적 과제?다 양성을 지향하면서 자민족 중심주의로 향하는 모순?를 푸는 열쇠가 숨어 있을지도 모른다. 그래서 다음 강의에서는 지금까지 선인이 발전시켜 온 도덕사상을 ‘사회 중심 사고’와 ‘개인 중심 사고’로 나누어 정리해보겠다.

‘사회 중심 사고’의 핵심은 ‘(특정) 사회의 신격화’다. 따라서 ‘사회 중심 사고’는 특정 종교나 전통과 습관에 근거해 선악을 구별하는 명확한 틀을 제공해준다. 그것은 안정되어 있어 흔들림이 없다. 만약 판단이 어려울 때는 성직자나 스승에게 가서 묻거나 경전이나 서적을 읽어보면 명쾌한 해답을 얻을 수 있으니까. 그러나 반면에 다른 ‘이상의 도덕’을 갖는 사회와 충돌하면 분쟁을 중재할 수가 없다. 이것을 ‘관용성의 결여’라고 할 수 있다. 사회를 중심으로 하는 사고는 권위주의, 집단주의, 절대론 등으로 요약할 수 있다. 그 특징은 ‘의연하지만 배타적’이다. 따라서 이 사고로는 점점 가속되는 사회의 다양성을 담보할 수가 없다.
한편 개인 중심 사고의 핵심은 ‘개인의 신격화’다. 개인 중심 사고는 이성을 가진 자유로운 개인이 전제가 되고 있어 개인과 사회를 분리해 생각하는 경향이 있다. 현대에서는 이런 ‘개인 중심 사고’가 압도적으로 인기를 얻고 있다.