인공 인간

서문
의식이 있는 기계에 대한 물음 ╻인공지능과의 병합 가능성

01 인공지능의 시대
특이점 ╻제트슨의 오류 ╻트랜스휴머니즘 ╻몇 가지 경고 사항

02 인공지능 의식의 문제
인공지능 의식과 난제 ╻생물학적 자연주의 ╻기술 낙관주의 ╻두뇌 회춘 수술 ╻사고 실험의 함의

03 의식 엔지니어링
의식을 배제하다 ╻비용 절감 ╻의식 엔지니어링: 홍보의 악몽 ╻의식 엔지니어링: 인공지능의 안전성 ╻인간과 기계의 합병

04 인공지능 좀비 잡기: 기계 의식을 찾아내는 테스트들
ACT 테스트 ╻칩 테스트 ╻통합 정보 이론 ╻사전 예방 원칙과 여섯 가지 권고 사항 ╻마음과 기계의 합병에 대한 생각 탐구

05 인간은 인공지능과 결합할 수 있는가
인간의 기준 ╻우리는 소프트웨어 패턴인가

06 마인드 스캔
출구? ╻개인의 성장 혹은 죽음 ╻기존의 기질을 버리다 ╻형이상학적 겸손

07 특이점의 우주
포스트생물학적 우주 ╻제어 문제 ╻능동적 SETI 프로젝트 ╻초지능적인 마음 ╻생물학적으로 영감을 받은 초지능체

08 마음은 소프트웨어인가
뇌의 소프트웨어로서 마음 ╻마음-몸의 문제 ╻소프트웨어 견해를 평가하다 ╻데이터 소령은 죽지 않는가? ╻마음은 프로그램의 인스턴스인가 ╻강, 개울, 자아 ╻알코르로 돌아오다

결론: 뇌의 사후 세계

부록: 트랜스휴머니즘

인공지능이 의식이 있는 존재로 드러난다면, 우리에게 서비스를 제공하도록 강요하는 것은 노예제도와 비교될 것입니다. 의식이 있는 존재, 즉 강화되지 않은 인간에 필적하거나 심지어 그 이상의 정신 능력을 가진 존재가 안드로이드 상점에서 판매되고 있다면, 우리는 정말 마음이 편할까요? _서문

생물학적 자연주의자들은 의식이 생물학적 시스템의 특별한 화학적 성질, 즉 우리 몸에는 있지만 기계에는 없는 특별한 속성이나 특징에 의존한다고 주장합니다. 하지만 그러한 속성은 아직 발견되지 않았고, 설사 발견된다고 해도 인공지능이 의식을 가질 수 없다는 의미는 아닙니다. (…) 인공지능의 의식 여부를 판단하려면 특정 기질의 화학적 성질을 뛰어넘어 인공지능의 행동에서 단서를 찾아야만 합니다. _02 인공지능 의식의 문제

인공지능이 정교한 정보 처리를 수행하기 위해 갖춰야 하는 자질은 기계에게 의식을 불러일으키는 것과 같지 않을 수 있습니다. 그리고 인공지능 프로젝트가 관심을 두는 것은 의식을 만들어내는 자질이 아니라, 필요한 작업을 수행하고 빠르게 수익을 창출하는 데 충분한 자질입니다. _03 의식 엔지니어링