[큰글자책] AI와 이미지 조작

AI와 이미지 조작

01 이미지 조작의 역사
02 이미지 창출과 이미지 조작의 경계선
03 이미지 조작과 딥페이크
04 이미지 생성 AI 미드저니와 문제점
05 이미지 조작 사례 1: 도널드 트럼프와 버락 오바마
06 이미지 조작 사례 2: 디지털 성범죄와 이미지 도용
07 이미지 조작 사례 3: 소라
08 이미지 조작 규제 법안
09 머신 바이어스 문제
10 AI와 이미지 조작의 미래

이미지 조작의 역사는 가장 먼저 나폴레옹 시대로 거슬러 올라가야 한다. 전쟁의 신이자 프랑스의 국민적 영웅인 나폴레옹 보나파르트 1세는 황제가 되기 전 자신을 미화하기 위해서 화가들로 하여금 자신과 관련된 일들을 그림으로 그리게 했다. 그중 가장 유명한 그림은 나폴레옹이 알프스 산을 말을 타고 넘어가는 그림이다. 1801년 자크 루이 다비드(Jacques Louis David)가 그린 이 그림은 화가가 자발적으로 그린 그림이 아니라 나폴레옹에 의해 주문 제작된 그림이다. 나폴레옹은 자신을 좀 더 강인한 이미지로 드러내기 위해 일부러 특정한 그림을 주문 제작한 것이다.

－01_“이미지 조작의 역사” 중에서

최근에 일어나는 이미지 조작과 관련된 사건들은 대부분 딥페이크 기술 때문에 일어나는 사건들이다. 원래 딥페이크 기술은 나쁜 목적에서 만들어진 기술이 아니라 영상 업계에서 개발한 기술이다. 영화에서 다양한 인간의 모습을 구현하고 제작비를 절감하는 차원에서 개발된 기술이다.

－03_“이미지 조작과 딥페이크” 중에서

국내의 경우만 하더라도, 교육부가 발표한 자료에 따르면 2024년 1월 1일부터 9월 6일까지 딥페이크 성범죄 피해자는 총 617명으로, 학생 588명, 교원 27명, 직원 등이 2명 피해를 입은 것으로 조사되었다. 국내에서 딥페이크를 활용한 불법 합성물 성범죄가 급증하고 있는데, 지인이나 유명인 얼굴과 성적인 영상물을 합성해 유포하는 이른바 ‘지인 능욕’ 범죄가 대표적이다.

－06_“이미지 조작 사례 2:디지털 성범죄와 이미지 도용” 중에서