[큰글자책] AI와 악의 평범성

인간인 듯 인간 아닌 인간 같은 AI

01 악의 평범성 오해 주의
02 능력: 청렴결백한 논리주의자
03 목적: AI는 다 목적이 있구나
04 노동: 그림자를 꼭 붙여 주오
05 자유: 자동 말고 자유
06 평등: AI가 민주주의를 만날 때
07 책임: 앗! 컴퓨터의 실수
08 의지: 의지의 기원은 반의지
09 판단: AI가 판사라면
10 스마트한 아이히만과 나

아이히만의 결정적 문제는 무사유다. 아이히만은 독일이 점령한 여러 지역의 게토에 흩어져 있는 유대인 숫자를 헤아려 합산했다. 그는 마치 자동화된 기계처럼 숫자를 더하거나 뺐다. 실제 인간 유대인을 떠올릴 필요조차 없었다. 개인적 취향 같은 것도 개입될 여지가 없었다. 아이히만은 주야장천 덧셈과 뺄셈을 했다. 그는 유대인 숫자 계산 업무와 유대인에게 실제로 가해지는 잔혹한 폭력을 연결하여 생각하지 못했다.

그러니 잊지 말자. ‘악의 평범성’이 가리키는 핵심적 사안이 다음의 두 가지임을…. 하나는 깊이 없는 천박한 악, 다른 하나는 완전한 무사유.

－01_“악의 평범성 오해 주의” 중에서

AI에 대한 의인화는 ‘머릿속 의인화’, ‘주관적 의인화’에만 머물지 않는다. 심지어 객관적 인식과 공감을 지향한다고 말해도 과언이 아니다. 최근 정밀 카메라를 장착한 AI가 인간의 감정을 읽고 그에 대해 적절한 공감 반응을 나타낼 수 있게 되었는데, 그중 자폐증 환자를 도울 수 있는 기능을 갖춘 AI 로봇이 출시됐다. 그뿐 아니다. 심리상담 AI 엘리자(Eliza), 심리치료에 특화된 챗봇 카림(Karim) 등은 실제 상담 장면에 투입된 지 꽤 되었다. AI가 살아 있는 사람처럼 활동하고, 또 대우받는 것이다.

－03_“목적: AI는 다 목적이 있구나” 중에서

본격적인 AI 시대를 내다보며, 기술철학자 코켈버그는 인공지능에 의해 민주주의의 이상과 정반대에 있는 엘리트 기술관료주의가 구축될 수 있다는 점을 염려한다. AI 기술이 점점 쉬워지면서도, 그 기술의 핵심 사항은 끝내 전문가 영역으로 남을 수밖에 없기 때문이다. 일반인들은 AI의 입력에서 출력까지의 기술적 절차와 단계를 구체적으로 몰라도 AI를 사용할 수 있다. 따라서 잘 모르는 채 그냥 주어진 대로 사용하게 될 수 있다. 잘 모르는 사람을 속이는 건 쉬운 일이다.

－06_“평등: AI가 민주주의를 만날 때” 중에서