특이점과 슈퍼 인공지능

슈퍼 인공지능의 출현으로 맞이하는 특이점

01 21세기 GNR 혁명
02 특이점
03 특이점 도래 시점
04 특이점 이전과 이후
05 특이점주의자의 인공지능 낙관론
06 인공지능 비관론
07 딜레마에 빠진 특이점 대응 문제
08 특이점과 영원의 철학
09 통합적 솔루션
10 슈퍼 인공지능과 포스트휴먼 문명

나노 기술 이론가 로버트 프레이타스(Robert Freitas)는 나노 기술을 바탕으로 적혈구·혈소판·백혈구를 재설계한다. 인공호흡을 하는 로봇 적혈구를 사용하면 몇 시간이고 산소 없이 버틸 것이라고도 하며, 마이크로 규모 인공 혈소판, 미생물 포식자 세포 나노봇 등으로 혈액을 프로그래밍할 수 있다고 주장한다. 나아가 스스로 움직이는 자동 혈구 나노봇들로 심장과 혈관계를 대체할 수 있다고 한다. 피가 저절로 흐를 수 있다면, 막대한 압력을 내뿜는 심장이라는 중앙 펌프가 왜 필요하냐는 것이다.

－01_“21세기 GNR 혁명” 중에서

그는 2045년에 특이점이 올 것이라고 확신하고, 이를 준비하고 있다. 그때가 되면 그는 97세가 되는데, 그때까지 살기 위해 한때 하루 200알의 영양제(요즘은 100알 정도)를 복용했다고 한다. 2045년까지 버틸 수 있다면 특이점을 맞아 자신은 불로불사의 존재가 될 수 있다고 생각하기 때문이다. 그는 ‘사람은 누구나 죽음을 맞이할 수밖에 없다’는 인류 역사상의 너무나도 당연한 오랜 상식을 무너뜨리려 한다.

－03_“특이점 도래 시점” 중에서

정말 이렇게 인공지능이 인간의 손에서 벗어나 제멋대로 움직이는 상황을 맞이한다면, 그 결말로서 인간의 생사여탈을 마음대로 하게 되는 최악의 경우를 가정하지 않을 이유가 없다. 이때 인공지능은 인류의 실존을 위협하는 악마 같은 존재가 될 것이다. 그래서 현대 문명의 ‘멸망’을 경고하는 옥스퍼드대 교수 보스트롬은 이렇게 말한다. “길게 내다보면 우리는 AI를 놓고 초대형 도박을 벌이게 될 것이다. 인류가 그동안 판돈을 걸고 벌인 도박치고는 이만한 게 없을 것이다.” 그런데 만약 도박에서 우리 인류가 진다면?

－06_“인공지능 비관론” 중에서