도덕적인 AI

들어가며

서론 | 무엇이 문제인가?

1장 인공지능은 무엇인가?
‘좁은 AI’, ‘범용 AI’, ‘강한 AI’ — 도전 과제를 선택하라 ｜ 퀴즈쇼를 준비할 때 알아둘 만한 단어: GOFAI ｜ 기계가 학습하도록 가르치기 ｜ 심층학습과 신경망은 어떨까? ｜ 어느 AI가 지능적인가? ｜ 오늘날 AI가 부족한 점 ｜ AI가 하지 못하는 일을 알아내는 것이 갈수록 어려워지고 있다 ｜ 오늘날 AI는 누가 만들고 있을까?

2장 인공지능은 안전할 수 있을까?
AI와 함께 사는 삶은 과연 과학소설에 나올 법한 끔찍한 공상일까? ｜ 오늘날 AI를 둘러싼 안전 문제 ｜ 몇 가지 사례 연구 ｜ 예측 가능한 예측 불가능성

3장 인공지능은 프라이버시를 존중할 수 있을까?
프라이버시는 무엇인가? ｜ 프라이버시에 신경을 써야 하는 이유는 무엇인가? ｜ AI는 어떻게 프라이버시를 침해하는가? ｜ AI 생태계는 개인 데이터의 비축과 판매를 조장한다 ｜ AI 위협으로부터 프라이버시를 보호하려면 어떻게 해야 할까? ｜ 우리는 프라이버시를 소중히 여기는가?

4장 인공지능은 공정할 수 있을까? … 157
정의란 무엇인가? ｜ 누가 재판 전에 감옥에 가는가? ｜ 인간 판사 대 AI: 누가 더 정확한가? ｜ 공정성을 명시하기 ｜ 인간 판사 대 AI: 누구의 편향이 더 심한가? ｜ 절차적 정의는 어떨까? ｜ 해석 가능성이 문제를 해결해줄까? ｜ 공정한 AI

5장 인공지능에 (혹은 AI 제작자와 사용자에게) 책임을 물을 수 있을까?
책임이란 무엇인가? ｜ 인간 운전자에게 책임이 있을까? ｜ 보행자에게 책임이 있을까? ｜ AI 관여자들에게 책임이 있을까? ｜ 우버에 책임이 있을까? ｜ 애리조나주 정부에 책임이 있을까? ｜ 인공지능에 책임이 있을까? ｜ 책임 공백

6장 인공지능에 인간의 도덕성을 탑재할 수 있을까?
하향식 도덕성은 어떨까? ｜ 상향식 도덕성은 어떨까? ｜ 두 방법의 장점을 취합하기 ｜ 누가 신장을 받을 것인가? ｜ 신장 분배 AI에 도덕성을 탑재하는 방법 ｜ 인공적으로 개선된 민주주의

7장 우리는 무엇을 할 수 있을까?
AI 제작 과정의 복잡 미묘한 상황 ｜ 도덕적인 AI에서 원칙과 실천 사이의 간극이 발생하는 이유는? ｜ 도덕적인 AI의 원칙과 실천 사이의 간극을 좁히려면 무엇을 해야 할까? ｜ 첫 번째 행동 촉구 제언 ｜ 두 번째 행동 촉구 제언 ｜ 세 번째 행동 촉구 제언 ｜ 네 번째 행동 촉구 제언 ｜ 다섯 번째 행동 촉구 제언 ｜ 큰 그림

결론 | 우리에게 달려 있다

주
찾아보기

작성된 코드는 언제부터 단순한 컴퓨터 프로그램이 아닌 AI가 되는 걸까? 인공지능은 정말 지능일까? AI는 의식을 가질 수 있을까? AI는 독창적이고 창의적일 수 있을까? 아니면 그저 제작자의 명령을 분별없이 따를 뿐일까?

기념비적인 성공을 거두었음에도 딥블루는 카스파로프에게 승리한 직후 미국의 컴퓨터역사박물관으로 은퇴하고 말았다. 왜 그랬을까? 딥블루가 체스를 두는 것 말고는 아무것도 할 수 없다는 사실을 제작자들이 알고 있었기 때문이다. 이것이 바로 좁은 AI 시스템의 정의이다.