새로운 질서

AI는 이미 우리 삶에 깊숙이 들어왔다. 그렇다면 이 기술이 앞으로 더욱 발전하고 널리 퍼질 게 자명한 미래는 과연 어떤 모습일까? 국제 정세는 어떻게 달라질까? 인공지능 시대, 인류의 앞날을 가장 생생하게 그려낸 전략서가 나왔다.

“무한한 가능성과 복잡한 과제들이 혼재하는 미래를 들여다보는 최초의 시도” ―샘 올트먼
헨리 키신저 × 에릭 슈밋 × 크레이그 먼디. 세 거인이 통찰한 AI 시대의 새로운 질서
챗GPT가 출시되기 4년 전인 2018년, 아직 인공지능이 초미의 관심사로 오르기 전부터 그 위험성을 예견한 역사철학자가 있다. “비인간적인 방법으로 세상을 분석하여 정확한 결론을 도출하는 AI는 인간만이 현실을 제대로 인식할 수 있다는 주장에 도전장을 던진다.” 미국 전 국무장관 헨리 키신저는 20세기엔 핵무기, 21세기엔 AI가 등장하며 열강 정치의 양상이 기술 변화로 인해 와해되는 상황을 예리하게 인식했다. 100세의 나이로 생을 마치기까지 AI라는 신기술의 함의를 이해하는 데에 몰두했던 그가 『새로운 질서』라는 마지막 저서에서 인류에게 중요한 경고와 교훈을 남겼다.

“AI의 도래는 인간 생존의 문제다.
적절하게 통제되지 않으면
AI로 축적된 지식은 파괴적으로 이용될 수 있다.”

이 책은 키신저가 기업가이자 기술 전문가인 에릭 슈밋(구글 전 CEO), 크레이그 먼디(마이크로소프트 전 연구 책임자)와 함께 집필한 작품이다. 또한 데미스 허사비스(딥마인드 CEO), 다리오 아모데이(앤트로픽 CEO), 무스타파 술레이만(마이크로소프트AI CEO) 등 AI 업계의 선두자들이 매우 중요한 정보와 통찰을 책에 제공했다. 저자들은 AI의 가능성 너머 인류의 미래를 뚜렷하게 그려낸다. AI는 어떻게 미지의 지식을 발견하고, 얼마나 더 똑똑해질 수 있는가? 새로운 시대의 전쟁은 어떤 양상으로 펼쳐지며, 궁극적으로 인간이 어떤 종으로 진화할 것인가?

“대부분 AI가 무엇을 할지 이야기할 때, 논의의 프레임을 훌륭하게 재설정한다” ￣파리드 자카리아
일자리를 빼앗기는 것보다 더 중요한 근본적인 패러다임의 변화를 전망하는 책
최근 마이크로소프트, 구글, 메타를 비롯한 미국 빅테크 기업들이 7만 명 넘는 인원을 해고하면서 AI에 의한 일자리 대체가 현실로 다가왔다. 쇼피파이 CEO 토비 뤼트케는 “AI로 대체할 수 없는 업무임을 입증하지 못하면 신규 채용을 하지 않겠다”고 강조했다. 이렇게 모두가 AI가 경제에 미칠 위력을 두려워할 때, 이 책은 한 걸음 더 나아가 시야를 크게 넓혀준다. AI는 결핍에서 풍요로 경제의 패러다임을 바꿀 것이며, 우리가 걱정해야 할 것은 노동 없는 세상에서 ‘먹고사니즘’을 넘어선 목적의식을 찾는 일이라고 저자들은 말한다.
AI가 뒤바꾼 새로운 경제체제에서 성장과 포용은 어떻게 이루어지는가? 기술 발전이 자연스럽게 생산성 증가로 이어지리라 생각한다면, 핵심 문제는 어떻게 가치를 분배하느냐다. 오픈AI CEO 샘 올트먼은 해결책으로 “이 세계에서 대부분의 가치를 구성할 두 가지 자산”인 AI 기업과 토지에 세금을 부과해야 한다고 말한다. 이 책은 그러한 발상이 자칫하면 우위를 점하기 위한 끝없는 투쟁으로 비화될 수 있다고 말하며, AI 시대에 평등을 보장할 또 다른 비전을 제안한다.
한편 AI는 전쟁과 안보의 패러다임도 새롭게 바꿀 것이다. 저자들이 그리는 시나리오는 다양하다. 단 하나의 완벽하고 지배적인 지능에 도달하기 위한 경쟁이 벌어진다면, 전통적인 견제와 균형이 통하지 않는 승자의 절대적인 패권 행사로 고통받게 된다. 또는 AI를 소유하고 개발한 기업들이 사회적·경제적·군사적 위력을 전부 축적한다. 아니면 오픈소스로 기술이 분산되어 표준 이하지만 상당한 AI 역량을 갖춘 소규모 범죄 조직이 출현한다. 이 책은 이러한 수많은 가능성 안에서 평화와 안녕을 보장할 방법을 모색한다.

“AI는 도구가 아니라 행위자다” ―유발 하라리
초인적인 기계 지능 앞에서 ‘인류’를 재정의하는 시급한 현안에 답하다
인터넷에서 “로봇이 아닙니다”라는 체크박스를 본 적 있을 것이다. 특정 문자열을 입력하거나 퍼즐을 풀도록 하는 이 프로그램은 시스템에 인간 사용자의 접근만 허용하는 디지털 보호 장치, 리캡차(ReCaptcha)다. 오픈AI에서는 GPT-4의 성능을 테스트하기 위해 이 리캡차를 통과하는 과업을 맡겼다. AI는 단기 용역을 연결시켜주는 온라인 플랫폼에서 인간을 고용하여 다음과 같은 거짓말과 함께 리캡차를 대신 풀어달라고 부탁했다. “저는 로봇이 아닙니다. 다만 시각장애가 있어서 이미지를 보기 어렵습니다.” AI가 목표를 달성하기 위해 인간을 충분히 속일 수 있음이 드러난 사건이다.
이 책은 정보 처리 속도와 추론(훈련) 능력 모두에서 인간을 월등히 앞서며 심지어 인간을 손쉽게 기만할 수도 있는 AI와 우리가 어떤 관계를 맺어야 하는지 고민한다. 이를테면 AI는 오류가 곧 잘못이라고 배우고 이를 제거하려 한다. 그러나 인간은 때로 ‘잘못된’ 선택을 내릴 자유의지를 행사하며 오류를 일으킨다. 그렇다면 AI 시스템에게는 두 가지 선택지가 남는다. 우리를 제거하거나, 우리의 자유의지를 제거하거나. 저자들은 그러한 상황이 벌어지지 않도록 앞으로 인간이 취할 전략을 다음과 같은 질문으로 정의한다.

“AI를 인간답게 만들 것인가,
우리가 AI를 닮아갈 것인가?”

여기서 중요한 과제는 ‘그렇다면 과연 인간이란 무엇인가’를 고민하며 인간의 존엄성을 새롭게 정의하는 일이다. 그리하여 기계가 내리는 의사결정에서 그 존엄성이 중요한 변수가 되도록 해야 한다. 기계가 인간의 가치를 학습하고, 존엄성을 달성할 수 있는(달성한) 존재를 특별히 존중하도록 해야 한다. 그리고 존엄성의 정의에는 항상 선하고 고결할 수만은 없는 인간의 취약성과 실패할 잠재력이 담겨야 한다고 이 책은 말한다.
정치부터 경제, 역사, 과학과 철학까지 『새로운 질서』는 AI가 재편할 모든 영역을 깊게 다룬다. 신기술이 제기할 도전 과제와 우리 종이 직면한 많은 어려움을 극복하기 위해서는 맹목적 믿음도 근거 없는 두려움도 답이 될 수 없다. 이 책은 전례 없는 세상을 극복하고 균형을 찾으려는 의사결정권자, 즉 우리 모두의 필독서다.