영화로 본 AI 윤리

영화라는 AI 윤리 실험실

01 인간다움의 경계와 복제된 기억
02 알고리즘의 예언과 결정론적 감옥
03 프로그래밍된 사랑과 관계의 본질
04 통제 상실과 가치 정렬 문제
05 기계의 시민권과 법적 인격
06 창조주의 책임과 피조물의 원망
07 튜링 테스트와 기만적 지능
08 가상현실과 신경 윤리
09 자동화된 편의와 주체성의 상실
10 디지털 불멸과 자아의 연속성

이 사실은 정체성의 문제를 어렵게 만든다. 우리는 어린 시절의 경험, 관계에서 받은 상처와 위로, 성공과 실패를 엮어 “내가 누구인지” 설명한다. 그런데 그 재료가 타인의 기억에서 왔다면 그 위에 세워진 자아도 가짜일까? 생성형 AI는 방대한 언어 자료에서 패턴을 학습해 기억을 말하는 듯한 문장을 만들 수 있고, 뇌?컴퓨터 인터페이스 임상 연구는 인간의 운동·의사소통 기능을 보조하는 방향에서 진행되고 있다. 동물 연구에서는 특정 기억과 관련된 신경세포 집단인 엔그램을 자극해 회상을 유도하거나, 생쥐에게 실제로 일어나지 않은 상황과 공포 반응을 연결한 실험도 보고되었다. 그러나 한 인간의 풍부한 자전적 기억을 다른 인간에게 통째로 주입하는 기술이 실현된 것은 아니다. 영화는 바로 그 아직 열리지 않은 가능성을 먼저 시험해 온 윤리적 실험실이다.

－01_“인간다움의 경계와 복제된 기억” 중에서

진정한 사랑은 상대의 모든 말에 동의하고 언제나 기분을 맞추는 일이 아니다. 때로는 쓴 진실을 말하고, 부당한 요구를 거절하며, 서로의 경계를 지켜야 한다. 거절할 수 있다는 것은 사랑하지 않는다는 뜻이 아니라 각자가 독립된 존재라는 증거가 될 수 있다. 내가 원하는 대답만 하도록 설계된 존재는 나를 편안하게 만들 수 있지만, 나와 대등한 관계를 맺는다고 보기는 어렵다. 그래서 AI 컴패니언의 윤리는 “그 사랑이 진짜인가?”라는 물음에만 머물 수 없다. 사용자가 상대의 정체와 상업적 목적을 분명히 알고 있는가, 감정적 의존을 키우는 설계가 숨겨져 있지는 않은가, 대화를 중단하고 데이터를 지울 권리가 보장되는가도 물어야 한다. 특히 외롭거나 취약한 이용자에게 친밀감을 제공하는 서비스라면 다정함을 수익화하는 방식과 위험을 더 엄격히 살펴야 한다.

－03_“프로그래밍된 사랑과 관계의 본질” 중에서

쿠사나기가 추적하는 인형사는 정부의 프로젝트 2501에서 만들어져 네트워크를 떠도는 동안 자의식을 얻었다고 주장하는 정보적 존재다. 그는 자신을 생명체로 선언하고 정치적 망명을 요구한다. 이후 쿠사나기에게 결합을 제안하고, 두 존재는 어느 한쪽으로 환원되지 않는 새로운 존재로 변한다. 〈사이보그 선언〉보다 약 10년 뒤 나온 이 영화가 해러웨이의 영향을 직접 입증하는 것은 아니지만, 인간과 기계의 경계 붕괴를 오염이 아니라 생성 가능성으로 그린다는 점에서 깊이 공명한다. 해러웨이의 ‘촉수적 사유’는 하나의 중심이 모든 것을 명령한다는 그림보다 여러 존재가 감지하고 얽히며 세계를 만든다는 관점에 가깝다. 쿠사나기와 인형사의 결합은 바로 그런 관계적 생성의 상징으로 읽을 수 있다. 아무도 계획하지 않은 새로운 지능이 출현한다면, 그것을 소유물이나 오류로만 처리할 것인가. 아니면 새로운 관계와 책임의 언어를 마련할 것인가.

－06_“창조주의 책임과 피조물의 원망” 중에서