기술이 인류를 구원한다는 착각

이 책에 보내는 찬사
옮긴이 서문
들어가며

제1장 소멸되지 않기 _ 인간의 가치와 효율적 구원
제2장 사랑과 은총의 기계들 _ 특이점과 가속의 사부곡
제3장 종이 집게 골렘 _ AGI와 착시현상
제4장 우주의 끝에 있는 윤리학자 _ 영생과 행복의 계산식
제5장 걷잡을 수 없는 혼란의 우주 유토피아 _ 전지전능한 우주적 존재들
제6장 전대미답의 장소 _ 희미한 푸른 점과 인류의 미래

감사의 말
옮긴이 후기
인터뷰이 및 인터뷰 요청자
사용허가 및 도판 저작권
주

올트먼의 권력 환상과 유드코스키의 악몽은 기술업계에서 제일 부유하고 영향력 큰 사람들이 공통적으로 갖고 있는 미래에 대한 큰 그림의 조각들이다. 그 미래란 과학소설(science fiction, SF)에서 바로 끄집어낸 모습이다. 사람 정신을 컴퓨터에 이식한 다음 호의적인 ‘AI 신’이 보우하는 실리콘 천국에서 영생하고, 끝없이 팽창하는 우주 제국이 행성들을 해체하며 은하를 삼켜버리고, 상상할 수 없는 첨단 기술로 모든 욕구가 충족되어 어떠한 공포도 사라진 미래.
_〈들어가며〉 中

기술을 통한 구원은 가능하지도 않은 미래를 위해서라는 명목으로 사회를 위험한 방향으로 끌고 가기 위한 핑계로 쓰이고 있다. 이러한 착각에서 벗어난다는 것은 그들의 실체를 이해한다는 것이다. 기술 엘리트들은 초월과 탈출을 꿈꾸지만, 그들은 우리와 함께 탈출할 생각이 없기에 우리에겐 악몽만이 서서히 조여들고 있을 뿐이다. 꿈에서 깨기 위해 우리는 그것의 허상을 똑바로 봐야 한다. 제일 좋은 시작점은 항구적 성장 이념의 제일 순수한 표상이자, 완벽하며 멈출 수도, 피할 수도 없다는 기술 유토피아라는 공상적 비전, 바로 ‘특이점’이다.
_〈제1장_소멸되지 않기〉 中

아버지를 부활시키겠다는 커즈와일의 시도는 가슴 저미는 망상처럼 느껴진다. 하지만 그것은 또한 아주 엄격한 시간표를 따라 커져가는 기술의 힘에 대한 그의 자신 있는 태도에다가 기술, 특히 컴퓨터 기술은 많으면 많을수록 좋다는 극도의 낙관주의가 얽혀 있음을 보여주는 단적인 예이다. (…) “특이점으로부터 나오는 지능체들은 자신의 생물학적 조상에 대해 큰 존경심을 가질 것이다”라고 말한다. 돌아가신 아버지에 대한 존경심과 사랑이 비치는 말이다.
_〈제2장_사랑과 은총의 기계들〉 中