크루시블

쇠창살 뒤에 갇힌 마법사는 밀짚으로 된 더러운 침대 위에 무릎을 꿇고 앉아 신에게 기도하고 있었다.

「단 하나의 머신 러닝 인공 지능이 해커 1백만 명이 키보드로 하는 일을 할 수 있어. 스파이 활동을 전개하고, 파괴하고, 불화의 씨를 뿌리기 위해 시스템 안으로 침투하는 자동화 봇bot을 통해 우리는 이미 그런 것들을 확인할 수 있지. 하지만 이런 것들은 우리가 맹렬한 속도로 향하고 있는 곳을 생각해 보면 여전히 수박 겉핥기에 불과해. 지금도 인공 지능이 우리의 검색 엔진과 음성 인식 소프트웨어, 데이터 마이닝 프로그램을 가동하고 있어. 진정한 경쟁은 누가 먼저 인공 지능에서 AGI로 경계를 확장하는 가에 달렸어.」
코왈스키가 몸을 움직였다. 「AGI가 뭡니까?」
「인공 일반 지능Artificial General Intelligence의 줄임말이야. 인간과 같은 지능과 인식을 갖는 거지.」

「만일 인공 일반 지능이 곧 출현한다면, 그게 일반적인 지능으로 오래 머물지 않을 거라는 것이 많은 사람들의 생각이야. 그런 자기 인식 시스템은 자신을 개선하는 방법을 찾기 때문이지. 그것도 아주 빠른 속도로. 연구자들은 이것을 급격한 이륙 또는 지능 폭발이라고 불러. 인공 일반 지능이 빠르게 성장해서 인공 초지능이 되는 거지. 컴퓨터의 처리 능력 속도라면 몇 분은 아니더라도, 몇 주, 며칠, 몇 시간 내에 벌어질 수 있는 일이야.」
「그러고 나서 우리를 죽이려고 들 것이다」 코왈스키가 자세를 고쳐 앉으며 물었다.
그레이는 이런 일이 일어날 수도 있음을 알고 있었다. 우리가 우리 자신의 종말을 스스로 창조하는 존재가 될지도 모른다.
「확실히 말하긴 일러.」 페인터 국장이 주의를 주었다. 「그런 초지능은 분명 우리의 이해력을 뛰어넘을 테니까. 그렇다면 우리는 창조주 앞의 개미에 불과할 거야.」