빅 나인

들어가는 글_ 너무 늦기 전에

PART 1 기계 속의 유령들

1 생각하는 기계를 만들 수 있을까?
기계에 마음이 있을까?
마음과 기계는 단순히 알고리즘을 따를까?
생각하는 기계를 만들 수 있을까?
생각하는 기계는 정말로 생각을 하는 걸까?
AI의 여름과 겨울
그 다음에 온 것 : 게임 배우기
승리와 패배

2 AI 패권을 쥔 그들은 누구인가?
AI 패권 그룹의 리더
중국의 AI 패권 기업 : BAT
미국의 AI 패권 기업 : G-MAFIA

3 수천 번 종이에 베인 상처 : 의도치 않은 AI의 결과
가치 알고리즘
콘웨이의 법칙
개인의 가치가 의사 결정을 좌우한다
AI가 잘못된 행동을 할 때
인류의 공유 가치
인간을 위한 AI 최적화

PART 2 3개의 시나리오

4 지금부터 슈퍼 인공지능까지 : 두 개의 경고
ANI에서 ASI로 가는 길
당신이 알아야 하는 이야기

5 제3세대 컴퓨팅 시대 : 낙관적 시나리오
2029년 : 편안한 넛징
2049년 : 롤링 스톤스는 죽었다(하지만 그들은 새로운 음악을 만들고 있다)
2069년 : AI가 주축이 되는 은하계

6 종이에 수천 번 베이고도 살아가는 방법 : 실용적 시나리오
2029년 : 난감한 상황을 겪다
2049년 : 새로운 5대 기업의 등장
2069년 : 디지털로 점령당한 미국

7 런공지넝(人工知能)의 시대 : 파국적 시나리오
2029년 : 디지털 세상 속에 갇히거나 탈출하거나
2049년 : 생체 경계 및 나노봇 중단
2069년 : 디지털 환원

PART 3 생존을 위한 제안

8 조약돌과 바위 : AI의 미래를 어떻게 바로잡을 것인가
전 세계적이고 체계적인 변화 : GAIA를 설립하는 경우
정부 변화 : 미국과 중국의 방향 전환 사례
빅 나인의 변화 : AI 사업 전환 사례
AI 개발 환경의 변화 : 파이프라인 전환 사례
이제 당신은 무엇을 해야 하는가

(알파고 제로) 시스템은 예측할 수 없는 방법으로 행동하고, 자신의 창조자도 전혀 이해할 수 없는 결정을 내린다. 복제할 수도, 완전히 이해할 수도 없는 방법으로 인간 (바둑) 선수를 누른다. 이는 AI가 자신만의 방법을 만들고, 우리가 이해하지 못하는 방식으로 지식을 얻는 미래의 전조를 보여주는 것이다.

AI 기술이 발달되어 악용되는 경우가 생긴다 하더라도 실제로 개인이 맞닥뜨리게 될 문제는 거의 없을 것이다. 이 기술로 인해 인류는 하루아침에 무언가를 경험하는 것이 아닌, 종이에 손가락이 베이는 것처럼 사소한 타격이 점진적으로 쌓이는 경험을 하게 될 것이다. 손가락에 살짝 베인 상처가 나면 단순히 짜증만 나지 일상에는 무리가 없다. 그렇지만 만약 몸 전체가 종이에 베여 수천 개의 상처가 난다면, 생명에는 지장이 없을지라도 삶이 고통스러울 것이다.

(빅나인이 최적화를 위해 대규모로 실시하는) 넛징은 검색어 자동 입력부터 ‘옐프’에서 지역 레스토랑을 찾을 때 제시된 메뉴 화면까지 우리의 모든 디지털 경험에서 널리 사용된다. 목표는 사용자가 어떤 것을 선택하든 간에 올바른 선택을 했다고 느끼도록 돕는 것이지만, 결과적으로 사람들은 실제 세상에 존재하는 것보다 훨씬 적은 선택으로 살아가는 법을 배우고 있다.