우리는 어떤 AI를 만들고 있는가

들어가며

1장 인공지능, 포스트휴머니즘, 그리고 ‘포스트휴먼 AI’
포스트휴머니즘과 기술
포스트휴먼 AI

2장 알파고 신화의 재해석
구글 딥마인드 챌린지 매치를 회고하며
알파고는 어떻게 만들어졌고 어떻게 작동하는가
알파고를 둘러싼 세 가지 신화
자율성, 초지능, 황폐화 서사에 대한 비판
인간 대 AI라는 대결 서사를 끝내려면

3장 AI는 창조적 행위자가 될 수 있는가
AI 예술가
이미지 생성 AI의 짧은 역사 · 63
인간과 AI의 상상력, 얼마나 닮았는가 · 68
AI는 창조적인가? · 74
창조성을 펼쳐서 이해하기 · 76

4장 챗GPT, 지식의 종말인가, 학습의 혁명인가
LLM의 역사
LLM과 기술결정론의 두 얼굴
인간 역량에 따른 LLM의 효과
AI 디지털교과서 논쟁 다시 보기

5장 AI와 일자리
생성형 AI는 일자리를 없애는가?
노동시장 예측의 높은 불확실성
업무의 재구성, 과업의 재배치
파이프라인 붕괴
피지컬 AI가 가져올 변화
길항권력
노동조합, AI 시대 길항권력

6장 전쟁과 AI
AI 전쟁, 전쟁 AI
전쟁 AI의 역사
새로운 전쟁 행위자, 인간-AI
판단은 누구의 것이 되는가
전쟁 AI는 전장의 안개를 걷어내는가?
물질-담론적 네트워크
기술 통제라는 해법의 한계
책임과 거버넌스의 재설계

7장 AI는 인간의 통제를 벗어날 수 있는가
AI, 인간을 속이기 시작하다?
‘통제를 벗어난 AI’의 사례들
실제 위험과 과장된 수사를 구분하기
AI의 분산된 행위성
통제를 벗어난 AI에서 인간-AI 배치로

8장 이루다 챗봇의 추락과 부활
AI 챗봇, 이루다, 그리고 이루다 스캔들
이루다 1.0의 추락
이루다 2.0으로의 부활
현행윤리, 윤리는 원칙이 아니라 실천이다
이루다 사례가 보여 주는 것

9장 인간중심 AI에서 포스트휴먼 AI로
AI가 인간중심이어야 한다는 것
현재 AI의 사회적·윤리적·정치적 문제
인간중심 AI의 한계
인간중심 AI를 넘어 포스트휴먼 AI로

에필로그 - “어쩔 수가 없다”를 넘어

참고문헌
찾아보기

포스트휴머니즘의 관점은 동일한 기술이 서로 다른 사용자를 만난 결과가 선인가, 악인가를 따지는 대신에 기술이 애초부터 서로 다른 관계망 속에서 서로 다른 존재로 구성된다는 관점을 택한다. 다시 말해 관계가 달라지면 AI의 사회적 효과뿐 아니라 그 자체의 성격과 능력, 행위성도 함께 달라지는 것이며, 기술은 가치중립성이라는 고정된 본성을 지닌 것이 아니라 그것이 맺고 있는 모든 관계가 형성한, 우리가 소위 '본성'이라 부르는 속성을 지니게 된다.

최근 비판적 AI 연구(Critical AI Studies)와 STS 학계의 논의는 알파고, 특히 알파고 제로의 자율성에 관한 서사가 인간과 AI를 서로 분리된 존재로 상정하는 근대적 이분법에 기초해서 사실을 과도하게 단순화하고 있다고 비판한다. 가장 직접적인 비판은 AI를 연구하는 인지심리학자 개리 마커스(Gary Marcus)로부터 나왔다. 마커스는 딥마인드가 사용한 '백지상태'라는 표현 자체가 대중에게 잘못된 인상을 준다고 비판하는데, 알파고 제로는 인간 기보를 사용하지 않았을 뿐, 결코 아무것도 없는 상태에서 출발한 것이 아니기 때문이다.

평소 우리는 스테이블 디퓨전 같은 이미지 생성 AI를 하나의 프로그램으로 인식하지만, 이를 네트워크의 관점에서 펼쳐(unfold) 보면 그 내부에는 인코더와 디코더, 확산 모델(diffusion model), 대규모 학습 알고리즘, 컴퓨팅 인프라, 그리고 수십억 장의 학습 이미지가 연결되어 있다. 이 데이터는 인터넷 이용자들이 오랜 기간 축적한 자료이며, 이를 수집·정제·학습시키는 과정에는 수많은 연구자와 프로그래머, 데이터 노동자가 참여한다. 뿐만 아니라 모델은 지속적인 업데이트와 사용자 피드백을 통해 향상된다. 결국 우리가 하나의 AI라고 부르는 대상은 인간의 행위·데이터·알고리즘·하드웨어가 결합된 거대한 사회기술적 네트워크이다.