딥페이크 기술의 윤리적 이슈와 바람직한 발전 방향

서문

Ⅰ. 인공지능 딥페이크(Deepfake) 기술에 대한 전반적 사항 탐색 및 검토

Ⅱ. 인공지능 딥페이크 기술의 빛
1. 기존의 딥페이크 기술
2. 인공지능을 활용한 딥페이크 기술
3. 윤리적으로 바람직하게 활용된 사례

Ⅲ. 인공지능 딥페이크 기술의 그늘
1. 초상권 침해
2. 저작권 침해
3. 사후 친족의 이미지 사용 문제
4. 가짜 뉴스 양산으로 사회적 혼란 야기의 문제

Ⅳ. 인공지능 딥페이크 기술에 대한 몇몇 고찰
1. 플라톤의 에피스테메(Episteme)와 독사(Doxa)에 비추어
2. 칸트의 정언 명법(Categorical Imperative)과 가언 명법(Hypothetical Imperative)에 비추어
3. 롤랑 바르트의 스투디움(studium)과 푼크툼(punctum)에 비추어
4. 롤즈 정의론에서 상정해 본 ‘악한 무지의 베일(Bad veil of ignorance)’

Ⅴ. 인공지능 딥페이크 기술의 안전한 활용을 위한 몇몇 제안
1. 제도권 교육의 활용과 평생 교육을 제안
2. 타인의 초상권 및 저작권 침해 금지에 관한 규범의 정립과 제안
3. 사후 친족의 이미지 사용 시 가이드라인 제안
Ⅵ. 기술의 사회적 파급에 대한 이익과 해악 평가위원회 설립 제안

참고문헌

헨리(윌 스미스)는 자신과 완벽하게 닮은 의문의 요원에게 맹추격을 당하는데, 이 의문의 요원은 20대의 헨리(윌 스미스)이다. 영화의 헨리는 포토샵을 이용한 CG(Computer Graphics) 처리가 아닌 딥페이크 기술을 활용한 디지털 디에이징으로 재현해 낸 스미스의 젊은 시절 모습을 갖고 있다.9 영화 ‘분노의 질주 더 세븐’에서는 촬영 중 사망한 배우 ‘폴 워커’를 살려내어 영화를 완성하였고, 넷플릭스 영화 ‘아이리시맨’에서도 배우 ‘로버트 드니로’의 젊은 시절 모습을 그래픽으로 재현해 내어 영화의 재미를 더했다고 한다.10 한편, 딥페이크 기술을 활용하여 역사적 인물들의 초현실적인 초상화를 만드는 예술가도 등장하였다고 한다. 그는 인간의 눈에 진짜처럼 보이는 미켈란젤로의 다비드부터 나폴레옹, 빈센트 반 고흐, 자유의 여신상의 사진을 만들었다고 한다.11

5월 22일에 미국 국방부(펜타곤) 옆 건물이 불타고 있는 사진이 인터넷상에서 급속도로 퍼졌다.50 이로 인하여, 미국 S&P500 지수가 0.3%가량 급락했는데, 이후 미국 국방부가 “조작된 사진”이라고 공식 확인하면서 사태는 일단락됐다고 한다. 2023년 10월 31일 조 바이든 미국 대통령은 AI 규제 등의 내용을 담은 행정명령에 서명하기 전 연설에서 “나도 내 딥페이크를 본 적이 있는데 나는 ‘내가 도대체 언제 저렇게 발언했지’라고 (스스로) 말하기도 했다”고 놀랐다고 말했다.51 또한, 2023년 11월 초 기시다 일본 총리가 뉴스 프로그램에 출연해 외설적인 발언을 하는 동영상이 SNS를 통해 순식간에 퍼졌다고 한다.52 해당 영상은 2023년 여름 인터넷 동영상 채널인 ‘니코니코’ 등에 3분 43초 분량으로 게시됐는데 최근 이를 30초 분량으로 줄인 편집본이 SNS를 통해 확산하고 있다고 한다.53

81푼크툼은 ‘찌름’의 라틴어 ‘punctionem’에서 비롯되어 롤랑 바르트(Roland Barthes)는 사진 이미지를 대하는 사람들은 두 가지 유형의 반응을 할 수 있다고 보았다.82 스투디움(studium)은 지적 즐거움(plaisir)으로서 오브비의 의미이다. 사진을 본다는 것은 시각적 정보를 즉각적으로 알아본다는 것을 말한다. 또한 스투디움은 ‘우리가 일상에서 거의 반사적으로 어떤 현상이나 상황을 즉각적으로 해석하는 것’, ‘일상의 친숙하고 익숙한 개념’이라 할 수 있다.83