[큰글자책] AI와 개인정보

AI 시대의 새로운 자원, 당신의 데이터는 안녕하십니까

01 개인정보는 원료인가, 시한폭탄인가
02 정의(Definition)의 딜레마와 AI의 도전
03 공개된 정보는 모두의 것인가
04 가명 정보와 안전한 활용의 기술
05 주민등록번호의 유령, CI
06 알고리즘 감옥과 설명 요구권
07 플랫폼 제국과 데이터 권력
08 국경 없는 데이터 전쟁
09 해킹, 유출, 그리고 회복 탄력성
10 AI 시대, 개인정보를 위한 사회 계약

4차 산업혁명을 넘어 본격적인 AI 시대로 진입하면서, 우리는 흔히 데이터는 21세기의 원유(Oil)라고 말한다. 하지만 이 비유에는 간과하기 쉬운 섬뜩한 진실이 숨어 있다. 원유가 잘못 다뤄지면 거대한 화재나 폭발을 일으키듯, 데이터?특히 우리 자신을 설명하는 ‘개인정보’?역시 잘못 다뤄지면 우리 사회를 송두리째 흔드는 시한폭탄이 될 수 있다는 사실이다. AI의 끝없는 식욕과 우리의 프라이버시 사이에서 벌어지는 이 긴장 관계를 어떻게 바라봐야 할까? 인공지능의 성능은 데이터의 양과 질에 좌우되기 때문에, 우리는 지금 혁신의 연료를 공급하는 것과 시한폭탄의 뇌관을 건드리는 것 사이의 위태로운 줄타기를 하고 있다.

－01_“개인정보는 원료인가, 시한폭탄인가” 중에서

이 법리를 AI 학습에 대입해 보면 어떻게 될까? 우리가 SNS에 사진을 올릴 때, “이 사진을 글로벌 AI 기업이 가져가서 상업용 AI 모델을 만드는 데 써도 좋다”라고 묵시적으로 동의했다고 볼 수 있을까? 상식적으로 그렇게 생각하는 이용자는 거의 없을 것이다. 따라서 현행 국내 법제하에서 공개된 개인정보의 처리에 대한 별도의 특례 규정이 없고, 일반적인 개인정보보호법상의 규율을 따르는 상황에서, AI 기업들이 정보 주체의 명시적 동의 없이 공개된 데이터를 무차별적으로 긁어가는 것은 위법 판단의 위험성에 직면할 소지가 존재한다.

－03_“공개된 정보는 모두의 것인가” 중에서

우리는 왜 기계의 판단을 거부하고 설명을 요구해야 할까? 단순히 불합격이 억울해서가 아니다. 그것은 인간의 존엄성(Human Dignity)을 지키기 위함이다. 인간은 데이터 덩어리로 환원될 수 없는 복잡하고 존엄한 존재다. 나의 인격과 미래가 차가운 알고리즘의 확률 계산에 의해 일방적으로 재단되는 것을 방치한다면, 우리는 주체성을 잃고 시스템의 부속품으로 전락할 것이다.

－06_“알고리즘 감옥과 설명 요구권” 중에서