AI는 인간을 먹고 자란다

머리말 : 추출 기계의 시대, 보이지 않는 노동자들

1장. 기계가 우리를 닮아갈수록, 우리는 기계가 되어 간다: 우간다 굴루, 데이터 주석 작업자
기계적이고 단순하며 예측 가능한 노동 | 갱 시스템: 당신을 쥐어짜겠습니다
기계는 어떻게 학습하는가 | 기계는 인간을 먹고 자란다 | 세계는 평평하지 않다

2장. AI는 사유하지 않는다: 영국 런던, 머신러닝 엔지니어
AI는 우리를 대체할 수 있을까 | 알고리즘 공포증 | 최후의 심판
디지털 우생학 | 공정하다는 착각

3장. 얼음과 불의 데이터 센터: 아이슬란드, 기술자
냉각과 전력 없이는 AI도 없다 | 전 세계를 연결하는 데이터 대동맥
인프라 권력을 차지하라 | 왜 구글이 우리 마을의 물을 마시는가 | AI 군비 경쟁

4장. 당신 목소리의 주인은 누구인가: 아일랜드, 예술가
예술가 없는 예술, 인간 없는 창작 | 창의력 테스트: AI는 진정한 창의력을 가질 수 있을까?
“그 순간, 베르테르의 구상이 완성됐다” | 모방과 창작을 가르는 선
새로움의 저주를 두려워 말 것

5장. 기계를 멈춰 세워라: 영국 코번트리, 물류 노동자
속도는 시스템이 정한다 | 아마존의 추출 기계를 소개합니다
AI 감시: 출근에서 퇴근까지 | 기계를 멈춰 세워라

6장. 자유를 지키는 독재자들: 미국 실리콘밸리, 투자자
황금광 시대 | 캘리포니아 벤처캐피털의 역사 | 민주주의가 배제된 기술
자기합리화인가, 더 나은 미래를 위한 선택인가

7장. 오래된 미래에 맞서는 사람들: 나이지리아 나이로비, 노조 활동가
아프리카 최초의 데이터 노동자 조합 | 그래서 무엇이 달라졌는가
국경을 넘어서

8장. 기계 재설계하기: 인공지능 시대의 노동 전략
노동조합과 노동자 조직의 집단적 힘을 강화한다
시민사회가 조직적으로 기업을 견제하고 책임을 묻는다
엄격한 규제를 도입한다
노동자들이 경영에 참여할 수 있는 구조를 모색한다
시스템의 불평등과 부정의에 맞선다

맺음말 : 이스라엘 가자지구를 바라보며
감사의 말
후주

인공지능은 흔히 인간지능을 비추는 거울이라고 불린다. 이는 인간의 사고 과정을 재현함으로써 지능을 해결하려는 시도라고 할 수 있다. 그러나 우리가 이 책에서 발전시킨 관점에서 보자면, AI는 추출 기계에 가깝다.
우리가 소비자로서 AI 제품을 사용할 때, 우리 눈에 보이는 것은 표면적인 결과물일 뿐이다. 그러나 그 세련된 외관 아래에는 AI를 작동하기 위해 필요한 복잡한 추출 기계 네트워크가 존재한다. 추출 기계는 자본, 권력, 천연자원, 인간 노동, 데이터, 집단 지성이라는 핵심 요소를 빨아들여 통계적 예측치로 변환한다. AI 기업들은 이를 이윤으로 전환한다. AI를 하나의 기계 즉 추출 기계로 이해하는 것은, AI가 내세우는 객관성과 중립성의 허울을 벗겨내는 시도이다. 모든 기계에는 역사가 있으며, 특정한 시기와 목적에 따라 인간이 설계하고 구축해 왔다. AI 또한 기존의 정치경제 시스템에 깊이 뿌리내려 있다. 데이터를 분류하고, 차별하며, 예측하는 모든 과정은 이를 만든 사람들의 이해 관계와 권력 구조를 반영한다. - 머리말

흔히 우리는 AI 개발이라고 하면, 팔로알토나 멘로 파크에 위치한 에어컨 잘 나오고 번지르르한 사무실에서 일하는 엔지니어들을 떠올린다. 그러나 AI 훈련에 필요한 약 80퍼센트의 시간이 데이터세트 주석 작업에 쓰이고 있다.9 자율주행차량, 극소 수술기기, 무인 드론과 같은 첨단기술은 모두 굴루 같은 곳에서 시작된다. 기술 평론가인 필 존스의 말처럼 “실제로 머신러닝의 마술은 고된 데이터 분류에 지나지 않는다.” 그러나 이러한 격무는 보통 제3의 공급자에게 외주로 맡겨진다. 데이터 주석 시장은 전 세계적으로 대호황이다. 2022년에만 22억 2,000만 달러의 가치를 인정받았고, 매년 약 30퍼센트씩 성장하고 있다. 2030년에 170억 달러에 이를 것으로 전망된다. - 1장

AI가 만들어지는 과정은 이러한 이상적인 그림과는 거리가 있다. 고대 그리스인들이 상상했던 것처럼, 기술이 신이 내린 선물일 리 없다.25 기술은 인간이 설계하고 개발하는 것이며, 그것을 만든 인간의 세계관과 가치관이 고스란히 반영된다. 기술은 언뜻 수학처럼 보이기도 한다. 추상적이고 보편적인 법칙에 따라 움직이며, 언제나 ‘참’인 것처럼 보인다. 이런 시각에서 보면, 특정 기술은 단순히 문제 해결을 위한 도구일 뿐이며, 사용자의 의도에 따라 자유롭게 활용될 수 있다고 여겨진다. 하지만 조금 더 면밀히 들여다보면, 이러한 테크 제품들은 특정한 가치와 욕망으로부터 자유롭지 않다. 오히려 그 안에는 지식과 권력의 시스템이 교묘하게 설계되어 있다. 어떤 기술이든, 그것이 만들어진 환경과 완전히 분리될 수는 없다. AI도 마찬가지다. AI의 발전은 여러 경제적 요인, 개발자들의 문화적 배경, 그리고 그들이 속한 사회의 가치관에 깊이 영향을 받는다. 따라서 AI가 중립적이며 편향이 없다고 가정하는 것은 매우 위험하다. - 2장