딥페이크의 얼굴

프롤로그 ; 이 얼굴, 진짜일까?

1 _ 딥페이크, 얼굴을 바꾸다
딥페이크는 어떤 기술인가?
쉽고, 싸고, 빠른 딥페이크
딥페이크, 심층적 자동화의 기술

2 _ 딥페이크와 폭력의 얼굴
허위정보와 사실의 위기
포르노그래피와 조작된 정서
감춰진 얼굴이 묻다

3 _ 딥페이크와 창작의 얼굴
되살아난 인물, 비즈니스가 되다
진짜 얼굴 vs. 가상의 얼굴
가상의 얼굴이 묻다

4 _ 폭력과 창작 사이, 무엇을 해야 하나?
무엇이 문제인가?
무엇을 하고 있나?
무엇을 해야 하나?

에필로그 ; 새로운 가면 앞에서 물어야 할 것

주

북저널리즘 인사이드 ; 불온함만큼의 가능성을 가진 기술

“딥페이크는 전문가가 고가의 장비와 전문 지식을 활용해 수행하던 이미지 합성과 조작을 소프트웨어와 알고리즘이 대신 수행하도록 한다. 딥페이크는 전문가에 국한돼 있던 시각 미디어 조작의 주체를 ‘우리 모두’로 넓히며 비로소 ‘가내화(domestication)’된 셈이다. 디지털 이미지 시대의 포토샵이 그랬던 것처럼 딥페이크는 이제 가정에서 누구나 영상을 조작할 수 있게 해 준다. 그리고 딥페이크는 조작 과정이 자동으로 진행되기 때문에 사람의 손을 거쳐야만 최종 결과물이 생성되는 포토샵과 달리 모두가 영상 조작을 잘할 수 있게 만들어 준다. 시각 미디어 조작 기술이 드디어 예술의 영역에서 벗어나는 것이다.”

“러시아의 블라디미르 푸틴 대통령이 평화를 선언하는 모습을 담은 딥페이크 영상은 사람들이 곧잘 풍자로 받아들인다. 그러나 ‘건강 이상설’이 증폭되는 가운데, 푸틴 대통령이 건강한 모습으로 장기간 회의에 참석하는 모습이 영상으로 제공된다면 어떨까? 이는 사실일까, 허위일까, 혹은 풍자일까? 이를 판단하는 일은 너무나 어려우며, 딥페이크 기술이 일반화될수록 딥페이크를 통한 허위정보의 도전은 더욱 복합적으로 변화할 것이다. 이에 대한 정보 생산자들, 그리고 이용자들의 대응은 아직 요원해 보인다. 그 사이, 딥페이크 기술은 더욱더 정교해지는 중이다.”

“딥페이크 포르노그래피의 사례는 딥페이크가 정서적 측면에서 이전과는 다른 독특한 효과를 자아내고 있음을 보여준다. 지인이나 평소에 내가 동경하던 스타가 일어날 수 없는 일의 주체로 등장하거나 포르노 영상처럼 의외의 맥락에서 나타나는 고품질의 영상은 보는 이에게 전과는 다른, 극대화된 정서적 경험을 가져다준다. 내가 모르는 이의 얼굴이 아니라 내게 익숙하거나 평소 좋아했던 얼굴이 등장하는 영상은 해당 영상을 시청하는 개인에게만 의미 있는 특별한 경험으로 존재하기 때문이다. 이 점에서 딥페이크를 통한 영상 조작은 정보의 사실성과 신뢰성의 문제를 넘어 이용 수준에서 나타나는 정서적 효과와 밀접하게 관련됨을 알 수 있다.”