2029 기계가 멈추는 날

저자의 글_ AI는 훨씬 더 인간다워져야 한다

제1장 꿈과 현실의 간극에 선 AI
과대평가된 AI의 문제점 | 기계는 얼마나 인간과 가까워졌나 | ‘닫힌 세계’에 갇혀 있는 인공지능 | 세상의 다양성과 복잡함을 기계가 알 수 있을까 | 지금의 AI 연구는 잘못된 길로 가고 있다

제2장 진짜 위협인가, 위협적인 척인가?
터미네이터는 없다 | 의도를 알지 못하는 어리석은 하인 | 지금의 AI를 얼마나 믿을 수 있을까 | 빅데이터를 넘어선 새로운 접근법을 찾아야 할 때

제3장 딥러닝을 너무 믿지 마라
지금, 왜 딥러닝에 주목해야 하는가 | 인간의 뇌를 닮은 시스템 | 불가능이 없는 딥러닝의 탄생? | 탐욕스럽고 불안정하며 알 수 없는 존재 | 완전한 지성이 아닌 알고리즘의 하나일 뿐

제4장 구글은 문맹인가, 언어 천재인가?
기계는 정말 글을 이해할 수 있을까 | 똑똑한 AI가 제대로 읽지 못하는 이유 | 비유, 상식, 추론을 통합하는 일 | 링크를 찾는 것과 질문을 이해하는 것의 차이 | 시리는 정말 비서가 될 수 있는가 | 추론하지 못하는 구글 번역의 한계 | 인풋과 아웃풋으로 설명할 수 없는 언어의 미묘함 | 지금의 AI가 인간처럼 읽지 못하는 이유 | 인간의 ‘상식’을 기계에게 이해시키는 일 | 세상을 모르고 언어를 알 수는 없다

제5장 로봇은 정말 ‘다 알아서’ 해줄까?
인간의 일자리를 아직 안전하다 | 가정용 로봇은 꿈의 영역일까 | 알고 보면 대단한 로봇청소기의 능력 | 인간에게는 쉬운 일이 로봇에게는 어렵다 | 닫힌 시스템은 알 수 없는 열린 세계 | AI에게는 큰 도전인 일상적인 업무 | ‘다 알아서 하는 로봇’은 언제쯤 실현될까

제6장 인간 정신이 주는 11가지 인사이트
‘마스터 알고리즘’은 존재하지 않는다 | 기계에는 ‘표상’이 없다 | 세상을 이해하는 도구, 추상화와 일반화 | AI는 유연성을 가지고 생각할 수 있는가 | 규칙과 불규칙을 통합하는 인간 정신의 비밀 | 단어의 합은 문장이 아니다? | 같은 말도 맥락 안에서 달라진다 | 숨겨진 본질을 간파하는 능력이 필요하다 | 인과성을 학습하는 일의 어려움 | 인간의 경험과 딥러닝의 차이점 | 무에서 유를 만들려 하지 말라

제7장 상식과 딥 언더스탠딩으로 가는 길
상식을 ‘코딩’하는 일의 어려움 | 상식을 명확하고 애매하지 않게 나타내는 방식 | 수천 개의 지식에서 관계를 찾아내는 법 | 시간, 공간 그리고 인과성 | 진보의 시작은 유동성을 얻는 데 있다 | 계획을 세우고 수정할 줄 아는 로봇 | 시뮬레이션만으로는 부족하다 | 부정확하고 불완전한 인간이 AI보다 나은 점 | 범용지능으로 가는 길

제8장 신뢰할 수 있는 AI를 향해
AI에도 안전 법규가 필요하다 | AI가 판도라의 상자가 되어서는 안 된다 | 소프트웨어의 신뢰성을 높이는 접근법 | 지름길은 없다 | 버그 없고 위해를 가하지 않는 AI | 로봇이 가져야 할 가치관은 무엇인가 | 진정한 의미의 ‘생각’을 할 수 있는 인공지능 | 더 나은 AI는 있다

감사의 말
추천 도서
참고문헌
주
찾아보기
이미지 출처

지금보다 더 성장한 단계에 도달한 후 돌이켜 보면 AI의 전환점은 2012년에 일어난 딥러닝의 재탄생이 아니라 상식과 추론 영역에서의 ‘딥 언더스탠딩’(deep understanding), 즉 심층적 이해에 대한 문제의 해결점이 보이는 순간임을 깨닫게 될 것이다. 기술의 변혁은 10년이 걸릴지, 100년이 걸릴지 아무도 모르지만 추론과 상식적 가치관, 건전한 엔지니어링 응용에 토대를 둔 ‘인간이 신뢰할 수 있는 AI’로 탈바꿈할 때에야 비로소 시작될 수 있다.
저자의 글_ <AI는 훨씬 더 인간다워져야 한다> 중에서

1950년대와 1960년대 마빈 민스키(Marvin Minsky), 존 매카시(John McCarthy), 허버트 사이먼과 같은 선구자들은 AI의 모든 문제가 20세기 안에 해결될 것이라는 굳은 믿음을 갖고 있었다. 마빈 민스키가 1967년에 남긴 유명한 글을 보라. “인공지능의 문제 대부분은 한 세대 안에 해결될 것이다.” 그 뒤로 50년이 흘렀지만 아직 그런 전망들은 실현되지 않았다. 그런데도 계속 새로운 전망들이 등장했다. 2002년 미래학자 레이 커즈와일은 2029년까지 “AI가 인간의 지능을 능가할 것”이라고 확언했다.
이론적으로는 커즈와일과 서츠케버의 말이 옳을 수도 있다. 하지만 실제로 이런 일이 일어날 확률은 대단히 낮다. 지금 우리가 있는 곳에서 그 수준, 즉 인간의 지능과 같은 ‘유연성을 갖춘 다목적 인공지능’에 이르는 길은 그리 짧지 않다. 거기에 이르기 위해서는 엄청난 양의 기초적 진전이 있어야 한다. 지난 몇 년 동안 달성한 성과와 같은 종류의 일을 조금 더 하는 정도로는 턱없이 부족하다.
제1장_ <꿈과 현실의 간극에 선 AI> 중에서

AI 탄생 65주년에 다가가고 있는 지금의 상황은 이렇다. 로봇 연구가들은 로봇이 자기 위치를 파악하도록 하는 일에서 뛰어난 성과를 거뒀고 로봇이 개별적인 행동을 수행하게 하는 방법을 알아내는 데에서도 큰 발전이 있었다. 하지만 열린계에 대처하는 데 필수적인 세 가지 다른 아이디어, 즉 상황을 평가하고, 가능한 미래를 예측하고, 상황의 변화에 따라 주어진 환경에서 가장 이치에 맞는 행동은 무엇인지 역동적으로 결정하는 일에서는 그다지 많은 진전을 보지 못했다.
제5장_ <로봇은 정말 ‘다 알아서’ 해줄까?> 중에서