알고리즘 포비아

추천의 말
서문과 감사의 글

1장 알고리즘의 지배, 만연한 불안
우버의 시스템은 잘못될 리 없다?
우버랜드를 지탱하는 기술적 이데올로기
알고리즘은 우리를 불안을 어떻게 자극하는가
알고리즘 자동화에 인간의 주체성을 맡기면?
디지털 혁명이 바꾼 것들
디지털 시대의 불안을 탐구할 때 익혀야 할 용어 두 가지

2장 아마존의 가혹한 자동화 시스템
자동화 시스템에서 살아남기
노동자들을 관리하고 통제하는 알고리즘
디지털 기술이 불러온 비극
아마존은 내 영혼을 짓밟았어요
쓸모없음에 대한 불안
인간의 주체성 회복마저 도구화되는 현실

3장 넷플릭스의 추천 시스템이 현대 문화를 소비하는 방식
넷플릭스의 예측 알고리즘, 성공을 견인하다
알고리즘 추천과 주체적 인간 사이에서
알고리즘이라는 마법의 주문

4장 <오징어 게임>을 통해 본 알고리즘 시대의 정체성과 정서
<오징어 게임> 속 보여준 AI의 정밀한 통제
<오징어 게임>으로 바라본 현대인들의 내면 세계
알고리즘 시대의 치열한 생존 전쟁
알고리즘 경쟁이 불러온 전 세계의 폭력성
파괴적 세상으로 질주하는 기술 사회

5장 메타버스, 인류의 미래를 다르게 상상하다
메타버스로 가속화되는 디지털 세계
메타버스, 문화의 전환을 일으키다
아날로그 세계를 벗어나 3D 가상 세계로 도피하다

6장 인공지능, 상생할 것인가 지배할 것인가
인공지능과 인간지능의 무너진 경계
인간지능과 기계지능을 다시 생각하다
챗GPT의 등장, 그리고 불안과 기대

7장 끊임없는 자기 수정이 필요한 인공지능의 시대
생성형 AI를 향한 불안감
실존적 불안과 불확실성에 사로잡히는 현대인들
알고리즘 세계의 두려움
감시 사회에 대한 두려움
정보에서 소외될지 모른다는 두려움
해킹당할지 모른다는 두려움
디지털 시대의 두려움, 이 악순환을 끊으려면

주석

현대 사회는 인공지능을 열광적으로 확산시키는 경향이 강하다. ‘혁신 과학’인 AI야말로 강력한 경제 성장을 일으켜 오늘날우리 삶을 전환해 줄 원천이라고 여긴다. 하지만 특유의 모호성이 아직 해소되지 않았다. 온라인 세계와 오프라인 세계가 연결된 일상 속에서 고군분투할 때 불가피하게 따라붙는 두려움, 갈수록 심화되는 ‘정보 과부하’ 앞에서 끝없이 피어오르는 불안감, 개인의 의사결정을 자동화 기계에 위탁함으로써‘의도치 않은 결말’을 자초할 수 있다는 두려움이 확산되는 것이다. 이 책을 집필하는 동안 나는 예측 알고리즘이 우리의 불안을 완화하기는커녕, 기대와 다르게 오히려 증폭시킨다는 사실을 깨달았다.
-서문과 감사의 글

알고리즘의 자동 관리라는 비즈니스는 그 자체로 카프카적(카프카의 작품에서 나타나는 특징처럼 불합리하고 모순적이며 억압적이고 혼란스러운 상황을 의미-옮긴이)이다. 머신러닝 알고리즘은 우리의 미래를 수학적으로 정확히 예측해 사회경제 질서를 정교하게 조정해 준다고 약속하지만 정작 거기서 나오는 강령은 강압적인 데다 종잡을 수 없다.

첨단 자동화 사회에서는 예측 분석과 스마트 알고리즘이 시장의 ‘실제 요구’와 ‘가능한 욕구’를 설정하고 실현한다. 이 같은 흐름 속에서 나타날 수 있는 부작용이란 데이터 파워의 강압성, 알고리즘 편향의 위험성이나 미래 시장 예측을 위한 민간 데이터의 대량 판매 등에 그치지 않는다. 전 세계적으로 불안감이 확산되는 건 물론, 불길한 예감, 환멸과 의심이 제각각이면서도 서로 꼬리를 무는 형태로 피어나게 된다.
-1장 알고리즘의 지배, 만연한 불안

알고리즘 자동화, 즉 업무 속도와 직원의 생산성을 높이기 위해 감시, 측정, 할당량, 목표, 동기부여와 다양한 인센티브 기능을 제공하는 총체적 데이터 시스템 속에서 노동하는 삶에 적응할 가능성은 놀라울 만큼 낮아 보인다. 자동화 관리 시스템이 끝없이 전달하는 지시와 업무를 제때 해내지 못하는 이들은 공사를 막론하고 절망의 늪에 빠져든다. 이렇게 정서적으로 피폐해지고, 심지어 그것이 일상적으로 지속되면 개인의 삶은 우울감에 압도되고 신체적으로도 망가지고 만다.

알고리즘 관리가 노동자들을 숨 막히게 몰아붙여서 생기는 부작용은 이뿐만이 아니다. ‘해고’에 대한 두려움 역시 만연해졌다. 이는 자동화 지능형 기계가 갈수록 많은 부문에서 인간을 대체하고 있다는 통념에서 비롯된다. 미국의 사회학자 리처드 세넷은 이를 “자동화로 인한 쓸모없음의 불안”으로 칭했다. 이 같은 두려움은 최근 극적으로 증가했을 뿐 아니라 스트레스, 피로, 좌절, 우울증과 폭력까지 유발하는 경향을 보인다. 말하자면 자동화로 인한 쓸모없음의 불안이 깊은 상처로 자리 잡고 있는 것이다
-2장 아마존의 가혹한 자동화 시스템