당신은 AI를 어디까지 믿을 수 있나요?

[프롤로그]

1부. 생성형 AI

01 저작권 침해
AI 작곡가가 저작권료를 받을 수 있을까요?
AI는 지금도 누군가의 저작물을 학습하고 있다
[사례] 울트라맨 사건
유럽연합의 인공지능법(AI Act)과 같은 법제화 필요

02 미술품 위작
둘 중 하나는 위작 논란에 휩싸인 작품입니다
생성형 AI 앞에 놓인 선택의 기로, 미술품 복원 vs 위작
[사례] 넥스트 렘브란트 프로젝트
[사례] 클림트 컬러 에니그마 프로젝트
미술품 시장을 위협하는 AI
[예방 프로그램] 작가의 스타일을 모방하지 못하도록 막는 기술 - 글레이즈 & 나이트셰이드

2부. 대규모 언어 모델, LLM

03 가짜 뉴스 생산
“미국 트럼프 대통령이 체포되었다고요?”
챗GPT에게 가짜 뉴스 생성을 시켜 봤습니다
광고 수익을 목적으로 가짜 뉴스를 제작하는 ‘콘텐츠 팜’
[예방 프로그램] 작성자를 분석해 주는 AI 탐지 프로그램 - GPT제로

04 스피어 피싱
“김OO 고객님, 주문하신 택배가 도착할 예정입니다. 배송 조회(클릭)”
손쉽게 스피어 피싱 메시지를 만드는 LLM
[사례] 챗GPT의 메시지 생성 능력 실험
[사례] LLM 모델별 메시지 생성 능력 비교 실험

05 악성코드 제작
“컴퓨터 파일을 복구하고 싶다면 비트코인으로 $300를 보내시오”
랜섬웨어 등 악성코드를 만드는 데 악용되는 LLM
LLM이 생성한 코드를 분석하고 탐지하기

3부. 딥페이크

06 로맨스 스캠
“OO 씨, 여기로 $700 보내면 비트코인 배당금 보낼게요”
[사례] 로맨스 스캠에 속아 7천만 원을 잃은 A씨
3배 이상 증가한 ‘로맨스 스캠’ 피해 규모
상대방이 제공하는 사진, 여권, 은행 계좌 등이 허위일 수 있습니다
온라인 플랫폼 운영자가 취해야 하는 조치
워터마킹을 활용한 딥페이크 라벨링 기술

07 딥페이크 성범죄물 제작
4천 명에 달하는 연예인 딥페이크 피해자
[사례] 작가 ‘베가 캐디’에게 온 협박 이메일
[사례] 서울대 n번방 사건
[예방 프로그램] 이미지 보호를 위해 ‘디지털 백신’ 접종하기

4부. 봇

08 여론 조작
“OOO 후보님 응원합니다” 한순간에 올라가는 댓글 공감 수
여론을 조작하는 검은 손, 소셜 봇
[사례] 영국 브렉시트 국민투표
[사례] 2016년 미국 대선 여론 조성 사건
[예방 프로그램] SNS 계정이 소셜 봇인지 검증하는 프로그램 - 봇 오미터 엑스

09 시세 조종
“아무 이유 없이 주가가 오르다가 어느 순간 바닥으로 떨어졌어요”
시세 조종에 사용되는 소셜 봇과 자전거래 봇
[사례] 청담동 주식 부자 ‘이희진 형제’ 코인 사기 사건
[예방 프로그램] 컴퓨터와 사람을 구별하는 테스트 프로그램, 캡차
사용자 행동 패턴 분석과 IP 추적

10 크리덴셜 스터핑
당신의 아이디와 비밀번호, 안전한가요?
[사례] 대성학원 개인정보 유출 사건
해커 대신 무작위 로그인 시도를 수행하는 봇
비밀번호 변경과 이중 인증 사용 등 기본적인 보안 실천 필요

11 온라인 쇼핑 사기
“이렇게 똑같은데 가짜 쇼핑몰이라고요?”
가짜 온라인 쇼핑몰에서 사기당하는 과정
[사례] 과일 업체 과장·허위 광고 사건

5부. 자율주행 기계

12 마약 운반
“드론이 마약을 싣고 교도소 담장을 넘었습니다”
자율비행 드론이 과연 의약품만 운반할까?
우범지대를 드론 비행 금지 구역으로 설정하기
경찰 드론을 활용한 공중 감시

13 인명 살상
“드론이 적군의 탱크, 수송차를 식별해 공격합니다”
군에서 주목받는 자율주행 기계
수사에 어려움을 주는 자율주행 기계 관련 범죄
자율주행 기계가 테러에 악용될 위험성
자율주행 기계의 ‘사물 식별 기술’ 향상하기
기계 장치별 사이버보안 기준 확립 필요

[부록 1] AI 용어 사전
[부록 2] 인공지능기본법

찾아보기