챗GPT의 두 얼굴

들어가는 글 ․ 4

프롤로그 : 챗GPT 시대 ․ 10

제1장 챗GPT 시대에 기사를 쓴다는 것
인공지능은 기자의 일상도 바꿔놓았다 ․ 35
언론은 왜 인공지능 기업과 싸울까? ․ 52
인공지능이 만든 가짜뉴스가 쏟아진다 ․ 61
챗GPT는 기자를 대체할 수 있을까? ․ 78

제2장 챗GPT 시대에 프라이버시를 지킬 수 있을까?
포털사이트에서 검색창이 사라질까? ․ 89
초거대 인공지능 기술을 어떻게 활용할 것인가? ․ 100
인공지능이 학습하는 개인정보를 어떻게 규제할 것인가? ․ 111
인공지능이 악용될 수 있다 ․ 120

제3장 챗GPT 시대의 인간의 노동
인공지능이 그림을 그리다 ․ 137
챗GPT, 소설을 쓰다 ․ 151
챗GPT는 작가들에게 저주가 될 수 있다 ․ 158
보이지 않는 노동이 있다 ․ 168
미래의 노동 ․ 179

제4장 챗GPT는 콘텐츠를 창작할 수 있을까?
크리에이터도 인공지능에 물들다 ․ 191
인공지능만으로 라디오를 제작할 수 있을까? ․ 208
인공지능과 경쟁하지 마라 ․ 216
인공지능 유튜버와 대화하고 게임도 한다 ․ 223

제5장 챗GPT 시대의 디지털 리터러시 교육
챗GPT는 학생들의 생각을 멈추게 한다 ․ 237
생성형 인공지능 서비스의 가이드라인 ․ 251
읽기와 쓰기의 순서가 뒤바뀐다 ․ 255

참고문헌 ․ 268

인공지능이 만든 허위 글이 인터넷 곳곳에 퍼지고 진짜보다 진짜 같은 허위 정보가 쏟아지면 무엇이 진실인지 파악하기 어려워질 수밖에 없다. 이는 단순히 ‘허위’를 ‘진짜’처럼 여긴다는 점에서만 문제가 아니다. 자신의 성향에 맞지 않는 ‘진짜’를 보고서도 ‘허위’라 생각할 수 있는 우려도 있다. 자신이 지지하는 정치인의 비리 영상이 언론에 보도된다면 이를 인공지능 합성으로 여기며 진실을 부정할 수도 있다. 무엇이 진실인지 아닌지 판단이 어려워지는 탈진실(post-truth)의 시대가 더욱 가속화될 수 있다. 문제는 앞으로는 더욱 허위 정보 검증이 까다로워질 수밖에 없다는 사실이다. 아직까지는 인공지능 생성 이미지의 손 모양이 어색하거나, 딥페이크 영상의 입 모양이 어색하는 등 한계는 있다. 그러나 기술 발전은 시간문제다. 「인공지능이 만든 가짜뉴스가 쏟아진다」

한국에서는 규제 중심의 논의보다는 ‘산업적 활용’에 무게를 두고 있다. 2023년 3월 국회 과학기술정보방송통신위원회 법안심사소위원회는 인공지능 산업에 ‘우선 허용’ 후 ‘사후 규제’를 하는 인공지능 법안을 의결했다. 인공지능 법안은 누구든지 인공지능 기술과 알고리즘의 연구·개발, 인공지능 제품 또는 인공지능 서비스의 출시 등에 관한 행위를 할 수 있다는 내용을 담고 있다. 이 법안은 국민 생명, 안전, 권익에 위해가 되거나 공공의 안전 보장, 질서 유지, 복리 증진을 현저히 저해할 우려가 있는 경우가 아니라면 이를 제한할 수 없다고 규정한다. 제품·서비스로 개발하려는 인공지능이 ‘고위험 영역’인지에 대해서는 제26조에 따라 과학기술정보통신부 장관에게 확인을 요청할 수 있도록 했다. 「인공지능이 학습하는 개인정보를 어떻게 규제할 것인가?」

윤여경 작가는 인공지능과 대화가 아닌 뇌로 소통하는 ‘뇌간 소통’을 소재로 소설을 썼다. ‘뇌간 소통으로 날씨와 날짜, 그리고 메시지를 전하는 것을 묘사하라’는 주문에 챗GPT는 “유진은 아침에 일어나자마자 인공지능 버디가 자신의 뇌를 통해 메시지를 전달하는 것을 느꼈다. 버디의 메시지는 유진의 뇌로 직접 전달되었고 그것은 날씨와 날짜, 그리고 텍스트로 구성되어 있었다”, “버디는 날씨를 묘사하면서 유진은 바람을 느끼고 햇빛의 따뜻함을 느낀다”고 썼다. 이 외에 등장인물의 콘셉트에 맞는 이름을 정하거나, 소설 속 외계인의 연설문을 작성하는 등의 업무도 챗GPT가 해냈다. 이처럼 작가들은 고군분투하며 챗GPT의 쓰임새를 찾았다. 윤여경 작가는 “원고를 쓰면서 챗GPT가 가장 도움이 된 것은 자세한 에피소드를 만들 때였다”며 “챗GPT는 상황을 던져주면 내가 미처 생각지 못한 자세한 에피소드를 만들어낸다”고 말했다. 「챗GPT, 소설을 쓰다」