AI와 자기 결정

왜 지금 자기 결정인가

01 자기 결정적 삶
02 자율성, 두 가지 자유
03 자기 인식과 인공지능 조정
04 타인의 시선과 사회적 정체성
05 인공지능 결정 시스템의 유형
06 과학 중립성의 착시와 인공지능 윤리
07 헌법상 자기결정권의 진화
08 개인정보자기결정권의 한계
09 인공지능 시대 자기결정권의 독자적 인정
10 자기 결정의 신화와 선의지

기술의 변천사에 인간의 편익을 돕는 기계는 산업화를 거쳐 자주 등장했다. 다만 인공지능 환경에서 기계가 인간의 의사 결정을 위임받아 독자적으로 해낸다는 것은, 지난 정보화시대 컴퓨터가 디지털 처리해 인간의 정보 활동을 돕는 것과는 질적 차원을 달리하는 기술적 혁신이다. 기술적 맥락에서 정보화 시대 컴퓨팅 기술은 인터넷망에 연결됨으로써 정보 처리를 하는 보조적 도구였다면, 인공지능은 그야말로 인간의 지적 능력을 모사해 수행하는 에이전트다.

이러한 기술의 변화 속에서 인간의 자기 결정은 인간 존엄의 측면에서 더욱 중요해지고 있다. 바로 인공지능이 궁극적으로 완전한 자율성을 추구하는 과정에서 인간의 개입권이 얼마만큼 작동할지가 관건일 것이다. 인간의 자율성은 인간이 이성을 가진 존재로서 결정에 이르는 과정으로 설명될 수 있다.

－01_“자기 결정적 삶” 중에서

인간은 누구에게나 자신의 생을 타인에게 조종당하지 않고, 자기의 결정으로 살아가고자 하는 본질적 욕구가 있다. 타인의 노리개나 꼭두각시가 되려는 사람은 아무도 없다. 그에 비해 인공지능, 기계의 조정에 대해서는 한없이 무감각한 것은 아닐까? 우리는 타인이라는 다른 존재의 영향력 행사에는 즉각적으로 반응하면서도 인식하지 못한 기계의 존재에 대해서는 별다른 거부감을 표시하고 있지 않다.

오늘날 인공지능 알고리즘의 조정은 계획적이고 계산적이다. 우리가 인식하지 못하는 사이에 추천되는 광고, 정치적 선전물, 특정 집단을 향한 은밀한 비난이 감정을 교묘하게 이용한다. 그뿐만 아니라 자극적이고 짤막한 콘텐츠를 수시로 주입함으로써 본래 의도한 정보를 차단하고, 스스로 생각할 시도조차 막는 세뇌 작업, 이런 것들이야말로 은밀한 ‘생각 조정자’이다.

－03_“자기 인식과 인공지능 조정” 중에서

대표적인 인공지능 윤리는 2017년 1월에 인공지능 분야의 전문가로 구성된 민간 단체인 ‘삶의 미래 연구소’가 발표한 ‘아실로마 인공지능 원칙(Asilomar AI Principles)’이다. 이 원칙은 인공지능의 위험을 사전에 통제할 수 있는 연구 단계에서의 윤리 문제가 공론화되면서 각계 전문가들의 치열한 논의 끝에 발표된 것이다. 이 원칙은 총 23항목으로 구성됐으며, 연구에서의 이슈(1∼5), 윤리 및 가치(6∼18), 그리고 장기적 이슈(19∼23)에 대한 주제로 정하였다.

무엇보다 아실로마 인공지능 원칙은, 인공지능 연구의 목표를 ‘인간에게 유용한 지능을 개발하는 것’에 두었다. 또한 인공지능 윤리 담론의 핵심 가치라고 할 수 있는 투명성, 개인정보 보호, 자유와 프라이버시의 윤리와 가치를 언급하고 있다. 또한 미래의 초지능(super intelligence)은 윤리적 이상을 널리 공유하는 방식으로 모든 인류의 이익을 위해 개발되어야 한다는 점이 강조되었다. 이후 기업에서도 인공지능 윤리 원칙이 발표되기 시작했다.

－06_“과학 중립성의 착시와 인공지능 윤리” 중에서