[큰글자책] AI에 대한 인권의 역습

기계의 연산에는 눈물이 없다

01 전환(Transformation)
02 의존(Dependence)
03 위협(Threat)
04 사생활(Privacy)
05 평등(Equality)
06 노동(Labor)
07 투명성(Transparency)
08 책임(Accountability)
09 연대(Solidarity)
10 선언(Declaration)

이 거대한 전환을 어떻게 해석하고 규율할 것인가에 대해서는 두 가지 상반된 관점을 생각할 수 있다. 첫째는 기술결정론(technological determinism)적 관점이다. 이 관점에서는 기술 발전을 거스를 수 없는 흐름으로 보아 법과 규범은 기술의 변화에 맞추어 사후적으로 재편되어야 한다고 생각할 수 있다. 이 경우 인권적 가치를 강조하기보다는 기술 혁신을 위한 규제 완화가 우선시된다. 인간은 곧 기술의 진보에 적응해야 하는 수동적 객체로 자리매김하게 된다. 둘째는 기술결정론에 비판적인 관점이다. 이를 사회결정론(social determinism)적 관점이라고 이름 붙일 수 있겠다. 이 관점에서 보자면, 기술은 어디까지나 사회적 필요와 시대적 가치 그리고 권력 구조가 투영된 산물이다. 그렇다면 인공지능이 편향된 결과를 내놓거나 인권을 침해하는 결과를 가져오게 된다면, 이는 기술 그 자체가 가진 내재적 숙명이 아니라 데이터 분석과 알고리즘 설계에 인간의 편견과 자본의 탐욕이 반영된 결과라는 것이다.

－01_“전환(Transformation)” 중에서

인공지능이 초래하는 인권에 대한 위협은 과거 국가권력이 행사하던 물리적 폭력이나 명시적인 법적 배제와는 그 모습을 전혀 달리한다. 과거의 인권 침해가 눈에 보이는 공권력의 집행이라든가 명문화(明文化)된 차별 조항을 통해 이루어졌다면, 인공지능 시대의 침해나 위협은 정교한 알고리즘의 코드와 방대한 데이터의 연산 뒤에 은밀하게 숨어 있다. 이러한 비가시성(非可視性)은 피해자가 자신의 인권이 위협되고 있거나 침해당하고 있다는 사실조차 인지하지 못하게 만든다. 이러한 결과 인권 보호의 공백이 발생하고 심화된다. 인공지능이 초래하는 위협의 핵심은 기술적 난해성으로 점철된 불투명성과 그와 결합된 편향성에 있다.

－03_“위협(Threat)” 중에서

이러한 숨바꼭질 속에서 노동자는 투명한 벽에 부딪힌다. 기계의 판단에 오류가 있음을 직관적으로 알면서도, 그 원인과 논리를 증명할 수 없기에 구제받지 못하는 상황이 발생할 수 있다. 이는 법과 절차에 의해 보호받지 못하는 실체적·절차적 정당성의 실종을 의미한다. 노동 현장에서 알고리즘이 내리는 징벌적 결정에 대해 인간 상사가 최종적인 책임을 지고, 그 결정의 근거를 노동자가 납득할 수 있는 언어로 설명해야 한다는 규범적 원칙이 세워져야 하는 이유다.

－06_“노동(Labor)” 중에서