[큰글자책] 인공지능의 도덕적 지위

인간-인공지능 관계성의 미래

01 인공지능의 도덕적 지위에 대한 논쟁
02 인공지능의 자율성과 도덕적 지위
03 로봇 자율성의 단계들
04 인공지능의 자아 없는 자율성
05 인공지능은 자기 이익을 가질 수 있는가?
06 인공지능의 도덕적 지위와 현상적 의식
07 인공지능과 기능주의
08 관계론적 입장과 상대주의
09 인공지능과 인간중심주의
10 인공지능의 의인화 경향

관계론적 입장은 속성론적 입장에 원리적으로 내재해 있는 이러한 배제의 문제를 극복할 수 있다는 점에서 매력적인 대안으로 간주된다. 그것은 인류의 도덕적 진보의 과정으로서 ‘포함(inclusion)’의 역사, 즉 평등한 도덕적 지위를 인종, 나이, 성별, 계층 등의 특정 속성과 상관없이 인간 일반으로 확장하고, 더 나아가 동물을 비롯한 생물들에게 도덕적 지위를 부여해 우리의 도덕 공동체 안으로 포함시켜 온 역사에 잘 부합하는 관점으로 생각된다. 관계론적 입장에 따라 ‘인격성(personhood)’의 관념을 인공종으로 확장하고 인공지능을 우리의 도덕 공동체 안에 성원으로 포함시키는 것은 도덕적 진보로 볼 수 있다는 것이 이 입장을 지지하는 학자들의 관점이다.
－01_“인공지능의 도덕적 지위에 대한 논쟁” 중에서

현재 시판되는 자율주행 자동차는 LORA를 기준으로 할 때 7단계 이하에 속하는 수준으로, 인간의 운전을 인공지능이 보조하거나 혹은 특정한 상황에서만 인공지능이 주행을 맡는 식이다. 미국 자동차공학회에서는 자율주행 기술의 등급을 레벨 0에서 5까지로 구분하는데, 현존하는 자율주행 자동차는 레벨 0에서 2 정도의 수준이다. 앞으로 자율주행 자동차가 레벨 5인 ‘완전 자동(full automation)’에 이르면 차에서 운전대와 페달이 완전히 제거되고, 탑승자는 운전에 전혀 개입하지 않고 목적지만 입력하면 된다. 레벨 5에 해당하는 자율주행 자동차는 LORA에 따라 완전한 로봇 자율성을 갖는 것으로 생각할 수 있을 것이다.
－03_“로봇 자율성의 단계들” 중에서

어떤 사람의 접근 의식을 인공지능을 이용해 똑같이 복제하고, 그 사람을 외형상 완벽하게 구현하는 로봇에 그러한 인공지능을 탑재해 그 사람과 겉보기에 똑같이 말하고 행동하는 안드로이드를 만들어 낸다고 하더라도, 그것이 그에 상응하는 현상적 의식을 갖지 않는 한 그것은 철학적 좀비로서 도덕적 지위를 갖지 않는 자동기계(automaton)에 불과할 것이다. 그러한 자동기계를 총으로 위협하면 겉보기에는 사람과 똑같이 두려워하는 모습을 보이고 살려 달라고 말할 수도 있지만, 그것을 파괴하면 컴퓨터의 전원을 끄는 것과 마찬가지로 일련의 기계 작동이 정지될 뿐 어떠한 도덕적 해악도 발생하지 않을 것이다.
－06_“인공지능의 도덕적 지위와 현상적 의식” 중에서