슈퍼 인텔리전스

아직 끝이 나지 않은 이야기 : 참새와 부엉이의 우화
서문
감사의 글
1 과거의 발전과 현재의 역량
역사의 발전 형태와 거대사 / 크나큰 기대 / 기대와 절망의 시간들 / 인공지능의 첨단 기술 / 기계지능의 미래에 대한 몇 가지 의견
2 초지능으로 향하는 몇 가지 경로
인공지능 / 전뇌 에뮬레이션 / 생물학적 인지능력 / 뇌-컴퓨터 인터페이스 / 네트워크와 조직 /요약
3 초지능의 형태
속도적 초지능 / 집단적 초지능 질적 초지능 / 직접적인 영향력과 간접적인 영향력 / 디지털 지능의 장점들의 근원
4 지능 대확산의 동역학
도약의 시기와 속도 / 저항성 / 최적화 능력과 대확산성 /
5 확실한 전략적 우위
선두주자에게 확실한 전략적 우위가 있을 것인가? / 성공적인 연구 개발 과제는 얼마나 클 것인가? / 확실한 전략적 우위에서부터 독점적 지배체제까지
6 인지적 초능력
기능성과 초능력들 / 인공지능에 의한 통제력 장악 시나리오 / 자연적 저항과 다른 에이전트의 저항을 극복하는 힘
7 초지능적 의지 관계 / 도구적 수렴성
지능과 동기 사이의 관계 / 도구적 수렴성
8 예정된 결말은 파멸인가?
지능 대확산의 예정된 결말은 존재적 재앙인가? / 위험한 전환 / 악성 실패 상황들
9 통제 문제
두 에이전트 문제 / 능력 통제방법 / 동기 선택방법 / 개요
10 오라클, 지니, 소버린, 툴
오라클 / 지니와 소버린 / 툴-인공지능 / 비교
11 다극성 시나리오
말과 인간 / 알고리즘 경제에서의 삶 / 전이-후 독점적 지배체제의 출현?
12 가치 획득
가치-탑재 문제 / 진화적 선택 / 강화 학습 / 결합된 가치 부여 / 동기 부여적 임시 가설 / 가치 학습 / 에뮬레이션 조정 / 제도 설계 / 개요
13 선택의 기준 선택하기
간접적 규범성의 필요 / 일관 추정 의지 / 도덕률 모델 / 내 취지대로 행동하라 / 요소 리스트 / 충분히 가까워지고 있다
14 전략적 그림
과학과 기술의 전략 / 경로와 조력자 / 공동 작업
15 결정의 시간
기한이 있는 철학 / 무엇이 이루어져야 하는가? / 최선의 인간 본성이 나타나서 문제를 해결하기를

주
참고 문헌
역자 후기
찾아보기

거시적인 관점에서 역사를 돌아보면, 이전 시대에 후속 시대로 이어지는 시대별 발전 형태에는 서로 간의 뚜렷한 구별이 나타나며, 발전 속도는 시간을 거듭할수록 점점 더 빨라지는 경향이 있다.