더 커밍 웨이브

이 책에 쏟아진 찬사
핵심 용어 해설
프롤로그 | 인류의 운명을 결정하는 새로운 물결

1장 억제가 불가능하다
물결
딜레마
함정
논의할 것들

1부 호모 테크놀로지쿠스
2장 무한한 확산
기관
범용의 물결: 역사의 리듬
확산이 기본이다
진공관에서 나노미터까지: 초고속 확산

3장 기술 억제 문제
억제가 기본이다
안 된다고 거부한 적이 있는가?
핵은 예외일까?
기술적 동물

2부 새로운 물결
4장 지능의 기술
알파고와 미래의 시작
원자에서 비트와 유전자까지
캄브리아기 대폭발
전문 용어를 넘어서
인공 지능의 봄: 딥 러닝의 발달
세상을 잠식하는 AI
모든 것을 자동 완성하기: 대규모 언어 모델의 부상
두뇌 규모의 모델
더 적은 자원으로 더 큰 성과를 내다
지각 능력: 기계가 말을 하다
초지능을 넘어서
역량: 현대판 튜링 테스트

5장 생명의 기술
유전자 가위: 크리스퍼 혁명
DNA 프린터: 현실이 된 합성 생물학
생물학적 창의성이 발휘되다
합성 생명체 시대의 AI

6장 더 폭넓은 물결
로봇 공학의 시대
양자 지상주의
차세대 에너지 전환
물결 너머의 물결

7장 다가오는 물결의 네 가지 특징
비대칭: 힘의 대이동
초진화: 끝없는 가속화
옴니유즈: 많으면 많을수록 좋다
자율성과 그 너머: 인간은 주도권을 잡을 수 있을까?
고릴라 문제

8장 막을 수 없는 인센티브
국가적 자부심, 전략적 필요성
군비 경쟁
자유를 갈망하는 지식
100조 달러의 기회
글로벌 도전 과제
자아

3부 실패한 국가
9장 대합의
코펜하겐의 교훈: 정치는 개인적인 것이다
취약한 국가
기술은 정치적이다: 국가를 향한 물결의 도전

10장 취약성 증폭기
국가 비상사태 2.0: 통제되지 않는 비대칭성
급감하는 권력 비용
군사용 로봇: 공격의 우위
허위 정보 기계
국가가 후원하는 정보 공격
보안이 취약한 실험실과 의도치 않은 불안정성
자동화 논쟁

11장 국가의 미래
집중: 지능의 복리 수익
감시: 권위주의를 위한 로켓 연료
파편화: 국민에게 권력을
다가오는 모순의 물결

12장 딜레마
재앙: 궁극의 실패
재앙의 종류
컬트, 광신도, 자살 충동 상태
디스토피아적 전환
정체: 또 다른 형태의 재앙
다음 단계는?

4부 물결을 헤쳐 나가다
13장 억제가 가능해야 한다
규제만으로는 충분치 않다
억제를 재검토하다: 새로운 대합의
물결이 몰려오기 전

14장 억제를 위한 10가지 단계
1. 안전: 기술 안전을 위한 아폴로 계획
2. 감사: 지식은 힘이고, 힘은 통제다
3. 초크 포인트: 시간 벌기
4. 제작자: 비평가가 참여해야 한다
5. 기업: 이익 + 목적
6. 정부: 생존, 개혁, 규제
7. 동맹: 조약의 시대
8. 문화: 실패를 존중하고 포용하기
9. 운동: 민중의 힘
10. 좁은 길: 앞으로 나아가는 유일한 길

에필로그 | 인류세 이후의 삶
감사의 말
미주

수 세기에 걸쳐 기술은 수십억 명의 삶을 극적으로 향상시켰다. 우리는 현대 의학 덕분에 비교할 수 없을 정도로 건강해졌고, 전 세계 사람 대다수가 풍족한 식생활을 누리고 있으며, 사람들은 그 어느 때보다 더 많은 교육을 받고 있고 더 평화롭게 지낼 뿐 아니라 물질적으로도 더욱 편안하게 살고 있다. 이는 인류의 위대한 동력인 과학과 기술의 창조가 일조해 만들어 낸 결정적인 성과다. 그러한 이유로 나 역시 도구를 안전하게 개발하는 데 내 인생을 바쳐 왔다. 그러나 이처럼 특별한 역사를 통해 얻은 우리의 낙관적 태도는 냉정한 현실에 근거해야 한다. 실패를 방지하려면 무엇이 잘못될 수 있는지 이해하고 궁극적으로는 그에 맞설 수 있어야 한다. 우리는 그 결과가 어디로 이어질지 두려워하지 않고 논리의 종착점까지 추론의 흐름을 따라가야 하며, 그 종착점에 도달하면 그에 맞는 조치를 취해야 한다. 다가오는 기술의 물결은 이전에 목격했던 그 어떤 것보다 더 빠르고 더 큰 규모로 실패할 위험이 있다. 이 같은 상황에서는 전 세계적인 관심이 필요하다. 그리고 아직 그 누구도 찾지 못한 해답이 필요하다. 언뜻 보면 억제가 불가능한 상황이다. 하지만 우리 모두를 위해 반드시 억제할 수 있어야 한다. - 〈1장 억제가 불가능하다〉 중에서

약 100년이라는 시간 동안 인류를 양초와 마차의 시대에서 발전소와 우주 정거장의 시대로 이끈 물결이 연속적으로 이어졌다. 앞으로 30년 안에 그와 비슷한 변화가 일어날 것이다. 우리 앞에 다가올 수십 년 동안 새로운 기술의 물결은 인류가 마주할 수 있는 가장 근본적인 질문을 우리에게 던져 줄 것이다. 특정 질병에 대한 면역력을 갖고 있거나, 지능이 높거나, 더 오래 살 가능성이 있는 아이를 낳을 수 있도록 우리 유전자를 편집할 것인가? 우리는 진화의 피라미드 꼭대기에 있는 우리 자리를 지키기 위해 최선을 다할 것인가, 아니면 우리보다 더 똑똑하고 유능한 AI 시스템의 출현을 허용할 것인가? 이러한 질문들을 탐구하는 과정에서 발생할 수 있는 의도치 않은 결과는 어떤 것들이 있을까? 이러한 질문들은 21세기의 호모 테크놀로지쿠스에 대한 중요한 진실을 보여 준다. 역사 전반에 걸쳐 기술의 도전 과제는 기술을 개발하고 그 힘을 발휘하는 데 있었다. 하지만 이제 그러한 역사적 흐름이 바뀌었다. 오늘날 기술의 도전 과제는 기술이 발휘할 수 있는 힘을 억제해 우리 인간과 지구에 계속 도움이 될 수 있도록 하는 데 있다. 그러한 도전이 이제 결정적으로 확대되기 직전에 있다. - 〈3장 기술 억제 문제〉 중에서

앞으로 다가올 물결 안에 우리가 열심히 연구하고 있는 바로 그 기능들을 어떻게 담아낼 수 있을지 아무도 모른다. 기술 스스로 전적으로 발전을 주도하고, 반복적인 개선 과정을 거치고, 설명할 수 없을 정도로 발전하고, 결과적으로 현실에서 어떻게 작동할지 예측할 수 없게 되는, 즉 인간의 힘과 통제가 한계에 도달하게 되는 시점이 오게 될 것이다. 앞으로 다가올 변화의 물결이 매우 극단적인 형태로 나타날 경우, 결국 인류는 먹이 사슬의 최상위 자리를 잃게 될 수도 있다. 호모 테크놀로지쿠스는 결국 자신들이 만들어 낸 기술의 위협을 받게 될지도 모른다. 진짜 문제는 그 물결이 다가오고 있는지 아닌지가 아니다. 이미 그 물결이 형성되고 있는 것은 분명하기 때문이다. 잠재적 위험을 감안할 때, 정말 중요한 문제는 그러한 위험을 어떻게 피할 수 있는가이다. - 〈7장 다가오는 물결의 네 가지 특징〉 중에서