[큰글자책] AI와 위험 사회

안전한 인공지능 공존 사회를 위해

01 AI, 21세기 프로메테우스의 불
02 알파고가 열었던 문
03 무인 전쟁의 서막
04 슈퍼 인텔리전스 개발 경쟁
05 AI 개발 중단을 외친 선구자들
06 주머니 속으로 들어온 ‘그녀’
07 딥페이크 전쟁
08 무의식적 의인화
09 인공지능 감시 사회
10 블레츨리 파크에 모인 세계 정상들

최근 인공지능의 부상과 함께 인공지능의 잠재적 위험에 대한 우려도 커지고 있다. 확률적 추정에 기반한 인공지능 모델은 산출 결과에 부정확한 정보가 포함된 환각(hallucination) 증상을 보인다. 거짓과 엉뚱한 정보가 포함된 인공지능 산출물을 그대로 믿고 적용할 시 낭패를 볼 수 있다. 정교한 이미지를 생성하는 인공지능 때문에 딥페이크 사진, 영상, 음성 정보가 급증하고 있다. 유명인의 딥페이크는 거짓 정보와 결합해 사회적 혼란을 일으킨다. 방대한 지식을 학습한 인공지능을 활용해 불법적인 화생방 무기를 만들거나, 악성 코드 제작을 쉽게 해 광범위한 물리적 피해로 연결될 우려를 낳기도 한다.

－01_“AI, 21세기 프로메테우스의 불” 중에서

이스라엘 전장에서 가동되는 핵심 시스템 라벤더(Lavender)는 하마스와 팔레스타인 이슬라믹 지하드(PIJ)의 전투원들과 구성원으로 의심되는 표적을 식별하도록 설계된 인공지능 시스템이다. 이스라엘은 하마스와 전쟁 초기 거의 몇 주 동안 전적으로 라벤더에 의존했고, 라벤더는 최대 37000명에 달하는 팔레스타인 남자들을 무장 세력 가담자로 분류해 공습 대상으로 설정했다. 문제는 공습 허용 판단(YES or No)은 충분한 인간의 검증 시간을 주지 않는다는 것이다. 이스라엘군은 사실상 사살 표적을 가감 없이 승인하고, 의사 결정 과정을 관찰할 수도 없었다.

－03_“무인 전쟁의 서막” 중에서

인공지능을 탑재하고 섬세하고 자연스러운 동작이 가능한 휴머노이드가 가정 내 집사로, 공장 내 근로자로 역할하게 될 날이 머지않았다. 인간을 닮은 로봇에 대한 거부감을 일컫는 언캐니 밸리(uncanny valley)와 인간에게 쉬운 일을 제대로 못하는 로봇의 한계를 지적한 모라벡의 역설(Moravec’s paradox)이 극복되고 있다. 2024년 1월 테슬라의 휴머노이드는 빨래 개는 모습을 선보였다. 오픈AI의 합작사인 로봇 제조사 피겨AI는 뭐 좀 먹어도 되느냐는 인간의 질문에 주방 기구 사이에 놓인 사과를 집어 사람의 손에 건네는 모습을 보였다.

－06_“주머니 속으로 들어온 ‘그녀’” 중에서