딥페이크 생성과 탐지

일상으로 다가온 딥페이크

01 딥페이크의 역사 및 사회적 대처
02 딥러닝
03 잠재 공간을 이용한 멀티미디어 생성
04 인공지능을 이용한 멀티미디어 생성 과정
05 적대적 생성형 모델과 확산 모델
06 영상 딥페이크 탐지 방법
07 음성 딥페이크 탐지 방법
08 딥페이크 탐지의 어려움
09 딥페이크 탐지 성능 향상
10 딥페이크 탐지 연구 방향

딥페이크에 대응하는 법규나 제도도 활발히 논의되고 있다. 여기에는 딥페이크의 피해자나 생성형 인공지능을 개발 또는 활용하는 개인, 기업 등 다양한 사람의 입장이 복잡하게 얽혀 있다. 딥페이크로 인한 피해를 방지하기 위해, 우리나라 「성폭력범죄의처벌등에관한특례법」 제14조의2에서는 허위 영상물을 만드는 사람에 대한 처벌을 명시하고 있다. 2023년 12월 28일 신설된 「공직선거법」 제82조의8에서는 선거일 전 90일부터 선거일까지 선거 운동을 위하여 딥페이크 영상 등을 이용하는 것을 금지했다. 또 그 기간이 아닌 때에는 해당 정보가 인공지능 기술 등을 이용해 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 표시해야 한다고 규정하고 있다. 좀 더 폭넓게, ‘AI기본법’이 2024년 12월 26일에 국회를 통과했다(김치연·이정현, 2024.12). 여기서는 생성형 AI를 이용한 서비스를 제공하는 사업자는 AI를 사용했다는 사실을 이용자에게 명확히 알리도록 했다.

－01_“딥페이크의 역사 및 사회적 대처” 중에서

반대로 우리가 어떤 사람을 만들어 내고 싶다면, 즉 우리가 사는 세계에서의 어떤 그림이나 음성 등을 만들고 싶다면, 잠재 공간에서 우리가 원하는 특성을 가진 사람이 살고 있는 위치를 찾아가면 된다. 그 위치를 찾아가서 그 집에 살고 있는 사람을 데리고 나오면 된다. 그 집 근처에는 비슷하지만 약간씩 다른 사람들이 살고 있으므로, 그중에서 한 사람만 불러온다면, 우리는 무엇인가를 만들 때마다 새로운 것을 만들어 낼 수가 있게 되는 것이다. 또한 그 층이나 동은 정수가 아니라 실수가 될 수 있다. 즉, 1.5층이나 3.14동 등이 존재할 수 있다. 우리가 숫자를 생각했을 때 정수를 사용하지 않고 실수를 사용한다면, 즉 소수점으로 되어 있는 숫자를 사용한다면, 영과 일 사이에도 무한히 많은 실수가 존재한다. 그러므로 그 무한히 많은 숫자 중에서 하나를 골라 오는데, 같은 사람을 선택하는 경우는 거의 없을 것이다. 그 이상한 나라에서 사람을 한 명 데리고 나오면 우리가 사는 세계에서는 그것이 우리가 원하는 그림이 되거나 음성이 되거나 문서가 될 수 있다.

－03_“잠재 공간을 이용한 멀티미디어 생성” 중에서

그런 특징들이 만들어지는 원인은 이미지가 만들어지는 과정을 상세히 이해하고 있어야 알 수 있지만, 간단하게 설명하면 다음과 같다. 이미지를 만들 때 첫 단계에서는 작고 개략적인 이미지를 만들고, 그다음 단계로 갈수록 점점 더 큰 이미지, 세밀한 이미지를 만든다. 이것은 이미지를 분석하는 과정의 반대 과정이라고 보면 된다. 이미지를 분석할 때는 그 안에 있는 가로선, 세로선, 사선, 곡선, 점 등의 특징만을 뽑아내는 필터를 사용하는데, 반대로 이미지를 만들 때는 역필터, 즉 우리가 원하는 특징에서 이미지를 만들어 내는 것을 사용한다. 그래서 처음에는 개념적이고 대략적인 그림이 만들어지고, 여러 단계를 거치면서 점점 더 세밀한 그림이 만들어진다. 이때 작은 필터나 역필터 여러 개가 그림 전체에 걸쳐 적용되는데, 그 과정에서 이미지의 한 점에 역필터가 겹쳐 중복되어 적용되고, 중복되는 정보가 강조되면 고주파 정보가 커지게 될 수 있다.

－06_“영상 딥페이크 탐지 방법” 중에서