어떻게 인간과 공존하는 인공지능을 만들 것인가

들어가는 말
왜 이 책일까? 왜 지금일까?
이 책의 개요

1. 우리가 성공한다면
우리는 어떻게 여기까지 왔을까?
다음은 어떻게 될까?
무엇이 잘못되었을까?
바로잡을 수 있을까?

2. 인간과 기계의 지능
지능
컴퓨터
지적인 컴퓨터

3. 앞으로 AI는 어떻게 발전할까?
가까운 미래
초지능 AI는 언제 출현할까?
다가올 개념적 돌파구
초지능 기계를 상상하다
초지능의 한계
AI는 인류에게 어떻게 혜택을 줄까?

4. AI의 오용
감시, 설득, 통제
치명적인 자율 무기
우리가 아는 방식의 일 없애기
빼앗길 다른 역할들

5. 지나치게 지적인 AI
고릴라 문제
미다스 왕 문제
두려움과 탐욕: 도구적 목표
지능 폭발

6. 그저 그런 AI 논쟁
부정
비껴가기
부족주의
그냥…
논쟁의 재개

7. AI: 다른 접근법
이로운 기계의 원칙들
낙관론의 근거
신중해야 할 이유

8. 증명 가능하게 이로운 AI
수학적 보증
행동으로부터 선호 배우기
돕기 게임
요구와 명령
와이어헤딩
순환적 자기 개선

9. 상황을 복잡하게 만드는 요인: 우리들
다양한 사람들
많은 사람들
멋지고, 추하고, 질투하는 인간
어리석으면서 감정적인 인간
사람은 정말로 선호를 지닐까?

10. 해결된 문제는?
이로운 기계
AI 제어
오용
나약화와 인간의 자율성

부록 A 해결책 탐색
부록 B 지식과 논리
부록 C 불확실성과 확률
부록 D 경험을 통한 학습

감사의 말
주
사진 저작권
옮기고 나서
찾아보기

따라서 이런저런 AI 기법이 “인간의 뇌처럼 작동한다”라는 기사를 읽을 때면, 그 말이 그저 누군가의 추측이거나 그냥 허구라고 의심해도 괜찮다.
정말로 우리는 의식이라는 영역에 관해서는 아무것도 모르기에, 나도 아무 말도 하지 않으련다. AI 분야에서 누구도 기계에 의식을 부여하려는 연구를 하고 있지 않고, 그 일을 어디에서 시작해야 할지 아는 사람도 전혀 없을 것이고, 그 어떤 행동도 의식을 선행조건으로 삼지 않는다.

원초적인 계산 능력에 초점을 맞추다가는 요점을 완전히 놓치게 된다. AI는 속도만으로 출현시킬 수 있는 것이 아니다. 엉성하게 설계된 알고리듬을 더 빠른 컴퓨터에서 돌린다고 해서 알고리듬이 더 나아지는 것이 아니다. 그저 틀린 답에 더 빨리 다다를 뿐이다. (그리고 데이터가 더 많을수록 틀린 답에 다다를 기회도 더 많아진다!) 더 빠른 기계의 주된 효과는 실험에 걸리는 시간을 더 짧게 줄인다는 것, 따라서 연구를 더 빨리 진행할 수 있다는 것이다. AI를 지체시키는 것은 하드웨어가 아니다. 소프트웨어다. 우리는 기계를 진정으로 지적으로 만드는 방법을 아직 알지 못한다. 기계가 우주만큼 크다고 해도 마찬가지다.

알파고가 이세돌을 물리치고 그 뒤에 다른 모든 최고의 바둑 국수들을 물리쳤을 때, 많은 이들은 머리가 아주 좋은 사람에게도 매우 어렵다고 알려진 바둑 대국에서 바둑을 전혀 모르는 상태에서 배우기 시작한 기계가 인류를 이겼으므로, 그것이 종말의 시작을 의미한다고 가정했다. 즉, AI가 인간을 정복하는 것은 시간문제일 뿐이라는 의미였다. 알파제로가 바둑뿐 아니라 체스와 장기에서도 이겼을 때, 일부 회의주의자들까지도 그런 견해를 믿는 쪽으로 돌아섰을지도 모르겠다. 그러나 알파제로는 뚜렷한 한계를 지니고 있다. 불연속적이고 관찰 가능하고 규칙이 알려진 2인용 게임이라는 유형에서만 작동한다는 것이다. 이 접근법은 운전, 교육, 정부 운영, 세계 정복에는 전혀 먹히지 않을 것이다.