인공지능 파놉티콘

개정판 서문
초판 서문
들어가며

1장 계몽의 빛에서 감시의 시선으로
2장 제러미 벤담의 파놉티콘
3장 공장의 파놉티콘: 감시의 시선에서 정보관리로
4장 정보·전자 파놉티콘과 분산되는 감시
5장 역감시와 시놉티콘, 역파놉티콘

간주Intermezzo

6장 인공지능과 빅데이터 시대의 감시
7장 감시 자본주의, 디지털 감시경제 그리고 감시문화
8장 아직 ‘1984’는 아니다─기술의 어긋남과 저항하는 사람들
9장 빅데이터-인공지능 파놉티콘 시대의 새로운 프라이버시 권리선언문

주

파놉티콘에 수용된 수감자는 보이지 않는 곳에서 항상 자신을 감시하고 있을 교도관의 시선 때문에 규율에서 벗어나는 행동을 하지 못하다가 점차 이 규율권력을 ‘내면화’해 스스로 자신을 감시하게 된다. “감시는 보편적이었고 영구했으며 포괄적이었고”, 이러한 의미에서 파놉티콘은 감시의 원리를 체화한 “자동기계”였다. (…) “건축물과 기하학적 구조를 제외하고는 다른 물리적 도구 없이 파놉티콘은 직접적으로 개개인에 작동하며, 정신이 정신에 가하는 권력행사인 것이다.”

파놉티콘은 공장제 생산이 보편적 생산양식으로 자리를 잡아가던 산업혁명 초기에 등장했다. 새뮤얼 벤담의 작업장은 마치 죄수와 다를 바 없는 러시아 농노 출신의 노동자들을 소수의 엔지니어가 효율적으로 감시하기 위해 고안되었고, 제러미 벤담의 감옥으로서의 파놉티콘은 노동을 통해 수감자들의 영혼에 규율을 심어주기 위해 만들어졌다.

시간─동작 연구에 기초한 팍팍한 목표량의 설정, 성과급제도, 컨베이어벨트시스템에 의한 연속생산, 생산직 노동과 기획의 분리, 표준화, 개인과 부서의 업무 수행을 한눈에 파악하고 비교하는 회계나 인사관리 같은 다양한 경영 기법의 발전, 노동자들의 일상에 대한 간섭 등은 컴퓨터가 기계와 공정에 사용되기 이전까지 숙련노동자들의 규율과 통제를 위해 도입된 장치였다. 여기서 볼 수 있듯이 작업장의 통제는 눈으로 보는 감시에서 작업을 기계로 대체하고, 탈숙련하고, 작업에 대한 실시간의 정보를 수집하고, 작업자 개개인에 대한 정보관리를 강화하고, 이를 과학적으로 분석하는 방법으로 바뀌어갔다. 이는 다음 장에서 살펴볼 ‘정보 파놉티콘information panopticon’의 도래를 예견하는 것이었다.