다크 AI

다크 AI를 이해하는 여덟 가지 틀

01 다크 AI
02 불공정성
03 불투명성
04 책임 공백
05 조작 가능성
06 범죄 가능성
07 인지적 외주화
08 정서적 대체
09 통제 불능
10 다크 AI 대응 방안

주변에서 낯설고 생소한 일이 발생할 때 그 현상의 특징이 무엇인지 처음부터 제대로 파악하기란 쉽지 않다. 하지만 유사한 사례들을 모아 공통점을 추려낸 후 이를 하나의 개념으로 ‘추상화’한다면, 이후에는 그 개념의 틀 안에서 현상을 바라볼 수 있어 보다 명확하게 그 특징을 이해할 수 있다. 그리고 ‘사례-개념’이라는 계층적 관계가 형성되기 때문에 향후 현상에 대한 체계적인 연구도 가능하다. 이처럼 개념은 현상의 특징을 파악하는 데 중요한 요소다. 마찬가지로 AI가 일으키는 사회의 어두운 현상을 제대로 이해하기 위해서는 무엇보다 다크 AI를 명확하게 정의할 필요가 있다. 그러나 아직 우리에게 다크 AI는 불명확한 개념으로 다가온다. 그렇다 보니 살펴본 바와 같이 AI의 어두운 측면을 다룬 연구들은 존재하지만, 다크 AI 자체에 초점을 맞춘 연구는 아직 찾아보기 어렵다.

－01_“다크 AI” 중에서

‘프라이버시(privacy)’는 자신에 대한 정보를 타인이 함부로 접근하지 못하도록 통제하고, 필요에 따라 선택적으로 공개할 수 있는 권리를 의미한다. 특히 공동체 중심의 삶에서 개인 중심의 삶으로 사회 구조가 변화하면서 프라이버시의 중요성은 더욱 강조되고 있다. 이렇게 인간은 서로의 프라이버시를 존중하면서 서로에게 완전한 투명성을 요구하지 않는다. 그렇다면 우리가 AI에게 투명성을 요구하는 것은 모순이 아닐까? 우리는 왜 AI가 투명하기를 바라는 것일까?

－03_“불투명성” 중에서

AI가 알고리즘이나 프로그램의 형태로 존재한다면, 그 AI를 범죄의 주체로 인식하기는 쉽지 않다. 범죄는 말 그대로 ‘죄를 범하는 행위’를 의미하며, 기본적으로 ‘행위성’을 전제한다. 그런데 알고리즘이나 프로그램은 행위를 직접 수행하는 주체라기보다 그러한 행위를 가능하게 하는 기술적 기반에 더 가깝다. 하지만 AI가 휴머노이드 로봇과 하나가 되어 물리적 형태로 존재하게 된다면 상황은 달라진다. 물리적 신체를 가진 존재를 행위의 주체로 인식하는 것은 어렵지 않기 때문이다.

－06_“범죄 가능성” 중에서