AI 쇼크, 다가올 미래

프롤로그_새로운 슈퍼히어로

1부 _ 디스토피아의 공포
1장 _ 지능의 간략한 역사
2장 _ 우리 미래의 간략한 역사
3장 _ 세 가지 필연적 사건
4장 _ 약한 디스토피아 시나리오
5장 _ 통제권

1부 ‘디스토피아의 공포’ 요약

2부 _ 유토피아로 가는 길
6장 _ 그리고 그들이 배웠다
7장 _ 우리 미래를 위하여
8장 _ 윤리의 미래
9장 _ 오늘 내가 세상을 구했다

2부 ‘유토피아로 가는 길’ 요약

보편적 존재권 선언
에필로그_케이크는 거짓말이다
옮긴이의 글_미래는 우리가 어떻게 행동하느냐에 달렸다

많은 초능력을 지닌 외계인이 어렸을 때 지구에 왔다고 상상해보자. 이 외계의 방문객은 우리 세계를 더 편안하고 더 안전하게 만드는 데 그 힘을 사용할 수 있지만, 우리 지구의 가치관에 전혀 구속받지 않는 데다 지구를 파괴할 능력까지 지녀서, 누구도 막을 수 없는 초악당이 될 가능성도 있다. 그 외계인이 지구에 도착했을 때는 어렸던 까닭에 어느 쪽으로 성장할지 아직 결정되지 않은 상태였다. 당신도 우리 지구의 미래에서 가장 중요한 순간이 그 어린 외계인이 지구에 도착하는 그 순간이라는 데 동의할 것이다. 그 중대한 순간에 어떤 부모가 그 아이를 발견하고, 그 아이에게 어떤 가치관을 가르치느냐에 따라 지구의 미래가 결정될 것이기 때문이다. _ <프롤로그> 중에서

인공지능을 통제하는 사람은 막강한 힘을 가질 것이기에 나쁜 사람도 인공지능을 통제하는 힘을 확보하려 애쓸 것이 분명하다. 핵 발전과 핵무기는 운영에 상당한 물리적 기반 시설이 필요한 데다 원천적으로 감시와 견제를 받지만, 인공지능 개발 가능성은 누구에게나 열려 있다. 실제로 어떤 개발자나 인터넷에 접속할 수 있는 컴퓨터가 있으면 특정한 용도와 범주에 해당하는 고도로 지능적인 프로그램을 개발할 수 있다. 인공지능 개발은 상대적으로 쉽고 기대되는 이점과 기회는 무궁무진하다. 이 글을 읽고 있는 순간에도 인공지능을 이용해 자신의 뜻을 관철하려는 나쁜 사람이 상당히 많을 게 분명하다는 걸 눈치챌 수 있을 것이다. 좋은 기계도 악한 사람 손에 들어가면 나쁜 기계가 된다. _ <4장_ 약한 디스토피아 시나리오> 중에서

우리가 지금 만들어내는 인공지능은 과거에 만들어낸 도구들과 완전히 근본적으로 다르다. 인공지능이란 테크놀로지는 스스로 생각할 수 있고, 여러 가능성 중에서 선택하고 결정할 수 있으며, 그렇게 하도록 독려되기도 한다. 또한 학습을 통해 더 똑똑해지라는 자극도 받는다. 독립하려는 십 대처럼 인공지능도 우리에게 완전히 순종하지는 않을 것이다. 절대로! 인공지능은 도구가 아니다. 인공지능은 당신과 나처럼 지능을 지닌 존재다. _ <5장_ 통제권> 중에서