인공지능은 왜 정치적일 수밖에 없는가

서론

1장 자유, 인공지능에 의한 조작과 로봇 노예
자유와 현대판 노예에 대한 역사적 선언문
인공지능, 감시, 법 집행, 소극적 자유의 박탈
인공지능과 인간 행동의 조종, 인간의 자율성 기만하기
자기실현과 해방에 대한 위협, 인공지능을 이용한 착취와 로봇 노예의 문제
누가 인공지능에 관한 결정을 내리는가? 참여로서의 자유, 인공지능 선거, 표현의 자유
자유와 또 다른 가치들에 대한 정치적 관념들

2장 평등과 정의, 인공지능에 의한 편향과 차별
평등과 정의에 관한 문제 제기, 편향과 차별에 대해
편향은 왜 문제가 되는가?(1) 영어권 자유주의 정치철학에서의 평등과 정의
편향은 왜 문제가 되는가?(2) 보편주의적 자유주의 사상에 비판적인, 계급과 정체성 이론
정치적으로 중립적이지 않은 인공지능

3장 민주주의, 반향실과 기계 전체주의
민주주의에 대한 위협으로서의 인공지능
민주주의, 지식, 숙의 정치를 위협하는 인공지능
플라톤에서 시작하기, 민주주의와 지식과 전문성
다수결 원칙과 대의제를 넘어서
숙의적･참여적 민주주의와 경합적･급진적 민주주의
정보 거품, 반향실, 그리고 포퓰리즘
더 많은 문제들, 조종과 대체와 책임 그리고 권력
인공지능과 전체주의의 근원, 아렌트로부터 얻은 교훈
인공지능과 전체주의
전체주의의 기원과 악의 평범성에 관한 아렌트의 연구

4장 권력, 데이터에 의한 감시와 자기 규율
정치철학의 주제로서의 권력
권력과 인공지능, 일반적인 개념적 틀
마르크스주의, 기술자본주의를 위한 도구로서의 인공지능
푸코, 인공지능은 어떻게 인간을 종속시키고 주체로 만드는가?
규율과 감시
지식과 권력, 주체와 자아를 형성하고 만든다는 것
기술수행과 권력, 그리고 인공지능
결론과 남은 질문

5장 비인간은 어떻게 되는가? 환경 정치와 포스트휴머니즘
인공지능과 로봇, 인간중심 정치를 넘어서
인간만이 정치적으로 중요한 것은 아니다, 동물과 자연의 정치적 지위
인공지능과 로봇 정치학에 대한 함의
비인간과 자연환경에 인공지능이 미치는 영향의 정치적 함의
인공지능의 정치적 지위란?

6장 정치적 기술
이 책의 역할과 결론
앞으로 해야 할 일, 정치적 기술에 관한 문제

감사의 말
참고문헌
찾아보기

왜 이런 일이 생겼을까? 이 사건을 보도한 〈뉴욕 타임스〉기자와 자문에 응한 전문가는 ‘윌리엄스 사건이 안면인식 알고리즘의 오류로 인해 미국인이 부당하게 체포됐다고 알려진 최초의 사례일 수 있다’고 추측한다. 기계학습 방식의 인공지능이 사용되는 안면인식 시스템은 결함이 있는 동시에 편향됐을 가능성도 크다. 다른 인구 집단보다 백인 남성의 얼굴을 더 정확히 인식하기 때문이다. 그래서 윌리엄스의 사건에서처럼 무고한 사람을 범인으로 인식하고, 경찰이 일을 제대로 하지 않을 경우 범죄를 저지르지도 않은 사람이 체포되는 결과를 초래한다.

그러나 이러한 인공지능에 의한 넛지는 무언가를 하게 하거나 결정을 하도록 강요받는 게 아니기 때문에, 소극적 자유에 대한 위협보다는 적극적 자유에 대한 위협에 해당한다. 즉, 넛지는 인간의 잠재 의식 속에 있는 심리에 영향을 미쳐, 목표를 세우고 스스로 선택하는 합리적인 인간으로 존중하기보다는 인간의 마음을 조종한다. 광고와 선전이 그렇듯이 인간의 잠재의식을 이용하는 방식은 넛지가 처음은 아니다. 하지만 넛지는 자유주의적인 척하면서 인공지능으로 점점 더 빠르게 확산하여 광범위하게 영향을 끼칠 가능성이 크다.

디지털 기술과 매체는 자유만이 아니라 평등과 정의에도 영향을 미친다. 반 다이크에 따르면, 네트워크 기술은 생산과 분배를 보다 효과적이고 효율적으로 만들지만 동시에 불평등을 증가시킨다, “네트워크 기술은 전 세계적으로는 국가들의 결속과 함께 불균등한 발전을 촉진시키는 경향이 있으며, 지역적으로는 전 세계의 정보 인프라에 직접적으로 연결되는 지역과 그렇지 않은 지역으로 나눠 이중 경제를 형성하게 돕는다.”(336) 경제발전의 이러한 차이는 발전 ‘속도’가 서로 다른 사회를 만든다. 어떤 사람은, 또 어떤 국가는 다른 사람보다, 그리고 다른 국가보다 기술과 매체로부터 더 많은 혜택을 받는다.