AI 시대의 소크라테스

프롤로그｜인공지능 시대의 새로운 프로메테우스

1장 인간과 인공지능의 파트너십
챗GPT의 도전: 인공지능, 인간에게 말을 걸다
인간 지능의 역사와 지성 혁명
인공지능 시대의 소크라테스

2장 사고하는 인공지능: 기계는 생각할 수 있는가?
Q1. 도대체 생각한다는 것은 무엇인가?
Q2. 셀프 트랙킹으로 자기 인식이 가능한가?
Q3. 계산은 사고를 대신할 수 있는가?

3장 공감하는 인공지능: 기계는 느낄 수 있는가?
Q4. 공감은 인간의 고유한 특성인가?
Q5. 이제 포커페이스는 사라질 것인가?
Q6. 인간보다 더 잘 공감하는 인공지능을 사랑하지 않을 수 있을까?

4장 의식 있는 인공지능: 기계는 자유의지가 있는가?
Q7. 의식은 인간의 마지막 보루인가?
Q8. 의식이라는 환영을 믿는 것과 파괴하는 것 중 어느 쪽이 더 해로울까?
Q9. 자유의지가 사라질 때도 우리는 인간일 수 있는가?

5장 포스트휴먼 시대의 디지털 인간 조건
Q10. 포스트휴먼의 실존 조건은 무엇인가?
Q11. 육체 없는 ‘노동’은 어떤 미래를 맞이할 것인가?
Q12. 세계 없는 ‘작업’은 인간을 어떻게 변화시킬 것인가?
Q13. 기계화된 소통은 어떻게 정치 없는 ‘행위’로 이어지는가?

에필로그｜소크라테스의 지혜가 필요한 시간
미주

인공지능은 기술적 혁신의 문제일 뿐만 아니라 철학적 도전의 문제다. 인간이 무엇이고, 어떻게 존재해야 하는가에 관한 질문을 강력하게 요청하기 때문이다. 우리에게는 인공지능 시대에 우리 인간이 무엇을 만들고 있으며, 그것이 우리에게 어떤 의미인지 해명해줄 소크라테스가 필요하다. 인간과 유사하게 생각하고 말하는 일반인공지능(Artificial General Intelligence, AGI)과 인간을 뛰어넘는 초지능(Superintelligence)의 그림자가 어른거릴수록 우리는 더욱더 의심하고 질문해야 한다. 인공지능으로부터 더 좋은 대답을 얻기 위한 기술적 질문이 아니라 인공지능을 어떻게 사용할 것인가에 관한 철학적 질문을 던져야 한다. 이 책은 이러한 질문을 통해 인공지능으로 인해 쇠퇴하고 사라지는 인간의 고유한 능력을 성찰하고자 한다. 이제까지 인간을 인간으로 만드는 고유한 능력은 사고와 감정과 의식이라고 전제되었다. 오늘날 인간을 모방하는 인공지능도 생각하는 것처럼 보이고, 감정이 있는 것처럼 보이며, 어떤 면에서는 의식을 보유한 것처럼 보인다. 강력한 가상은 존재와 현실을 기만한다. 만약 우리가 인공지능이 어떻게 사고와 감정, 의식을 가진 것처럼 보이는지 알 수 없다면, 우리는 인간과 다른 지성적 존재를 만난 것이다.
- 〈프롤로그. 인공지능 시대의 새로운 프로메테우스〉

오늘날 모든 것을 아는 것처럼 보이는 대화형 인공지능은 마치 고대 그리스의 소피스트와 같다. 우리는 챗GPT와 대화를 한다고 착각하지만, 인공지능은 사실 우리의 질문에 대답을 쏟아낼 뿐이다. 우리는 대화형 인공지능에 대화자의 역할을 맡기고 일종의 페르소나를 부여한다. 우리가 교사, 과학자, 철학자, 코미디언인지에 따라 질문에 다른 방식으로 대답할 수 있는 것처럼, 우리는 프롬프트로 인공지능의 대답에 영향을 미치는 성격, 특성 및 신념을 정의할 수 있다. 인공지능에 적절한 정보를 줘야 적합한 정보를 얻는다. 철학적 질문에 대한 답을 얻고자 한다면, 우리는 인공지능을 철학자로 만들어야 한다. 우리가 원하는 것이 특정한 양식의 시라면, 우리는 인공지능을 시인으로 만들어야 한다. 인공지능은 이렇게 질문자의 상황에 맞춰 시인과 철학자가 되고, 분석가와 행정가가 되며, 개발자와 엔지니어가 된다. 그런 점에서 대화형 인공지능은 21세기의 소피스트임이 틀림없다.
- 〈1장. 인간과 인공지능의 파트너십〉

생각이 계산으로 바뀌면 오해와 유혹은 사라지고 정답 아니면 오답이라는 이분법이 있을 뿐이다. 이렇게 되면 사회적인 것은 수학적인 것으로 축소되고 대안적인 사고는 차단된다. 알고리즘이 모든 것을 계산하면 사회는 비언어화된다. 그렇게 되면 우리는 윤리나 형이상학의 물음 앞에서 침묵할 것이기 때문이다. 인공지능이 우리의 행동을 대신할 때 우리 인간은 도덕적 관심으로부터 완전히 해방된다. 인간은 이제 데이터를 모으고 계산하는 데 정신이 팔린다. 현대인은 어쩌면 데이터를 병적으로 모으고 저장하는 데이터 저장 강박증(Compulsive Hoarding Syndrome) 환자인지도 모른다. 데이터의 수집과 저장에 매몰된 인간은 가설을 세우고 이론을 발전시키기는커녕 자신의 삶에 관한 이야기를 만들어내지도 못한다.
- 〈2장. 사고하는 인공지능: 기계는 생각할 수 있는가?〉