특이점과 초지능 (양장)

1 개론
2 인공지능으로 가는 길
3 전 뇌 에뮬레이션
4 AI 공학
5 초지능
6 AI와 의식
7 AI의 충격
8 천국과 지옥

만약 지성이 기술의 생산자일 뿐 아니라 기술의 산출물이 되면, 예측할 수 없고 폭발적인 결과를 낳는 피드백 사이클이 생겨날 수 있다. 왜냐하면, 지능 자체가 만들어진다면, 지능을 만드는 바로 그것이 자신을 개선할 수도 있기 때문이다. 특이점 가설에 따르면 머지않아 보통 인간은 피드백 순환에서 제거될 것이다. 인공지능 기계들 또는 인지적으로 진보한 생물학적 지능이 인간을 뛰어 넘고, 인간은 그들과 보조를 맞추지 못할 것이다.

범용 인공지능을 만들려면, 신진대사와 재생산과 같은 생물학적 생명에 필수인 것은 없어도 되겠지만, 몸은 필수 요소이다. 복잡하고 다양한 생물과 무생물에 둘러싸인 어수선하고, 동적인 물리적 환경에 관여하는 것은 지능의 근본 욕구일 것이다. 튜링 테스트는 오직 언어만으로 검사하기 때문에 이런 면에서 기준으로 불충분하다. 인공지능을 신뢰할 만하게 판단하는 오직 한 가지 방법은 우리와 같은 환경 속에서 그 행동을 관찰하는 것이다. 이러한 사고방식에 따르면, 인간 수준의 AI를 만드는 유일한 방법은 로봇 공학을 이용하는 것이다.

다음과 같은 조건이 갖추어지면 2010년대 중반에는 가장 강력한 컴퓨터를 이용하여 쥐의 뇌 전체를 시뮬레이션하는 것이 가능할 것이다. (1) 성공적인 에뮬레이션에 필요한 물리적 세부 사항 수준이 충분히 낮고, (2) 필요한 미세 수준의 청사진을 가지고 있어야 한다. 우리는 두 번째 조건을 만족시키기 위한 몇몇 기술적 대안들을 이미 논의한 바 있다. 첫 번째 조건에 대해서는 아직 결론이 확실치 않다. 시냅스 전달의 화학 작용, 신경아교세포의 구조, 가지돌기와 축삭돌기 모양 등을 추상화하여, 뉴런을 단순한 점과 같은 수학적 객체로 취급하여도, 실제와 같은 행위 결과를 얻을 수 있을까?