AI는 중립적인가?

들어가는 글

1 과학기술과 정치 문제
문제 제기 | 권력, 자본 그리고 기술 | 데이터, 인공지능: 감시 자본주의 | 디지털 민주주의에 대한 우려 | 기술과 대중 | 디지털 이해력

2 인공지능은 중립적인가
과학기술에 대한 환상 | 설계자는 누구인가 | 알고 쓰는 알고리즘

3 빅테크와 민주주의
빅테크와 정부의 대결 | 빅테크와 디지털 민주주의 | 신뢰와 법치주의에 대한 위협

4 가짜 뉴스와 정치적 양극화
심화되는 정치적 양극화 | 정치적 양극화 경향의 변화 | 정치적 양극화의 도구 | 가짜 뉴스에 대한 대중의 태도

5 인터넷과 음모론 정치
온라인 극단주의자 | 2020년 미국 대통령 선거 | 소셜미디어와 코로나-19 음모론 | 음모론자와 인플루언서 | 코로나-19 음모론의 허구성

6 미 · 중 경쟁의 핵심: 데이터
미 · 중 경쟁의 엇갈린 전망 | 중국이 데이터에 사활을 건 이유

7 미국의 인공지능 정책
문제 인식의 한계 | 바이든 정부의 정책 방향 | 인공지능 정책과 국제 협력 | 더욱 높아진 요구 수준

8 블록체인과 정치 개혁
블록체인이 정치를 바꿀까 | 블록체인 투표의 현주소와 가능성 | 블록체인 투표의 한계와 과제 | 정부에 블록체인은 양날의 검? | 블록체인과 암호화폐 규제 | 블록체인으로 ‘직접민주주의’를? | 암호화폐를 이용한 정치 후원금

9 기후변화의 정치
기후변화, 불편한 진실? | 기초 에너지 경쟁력의 중요성 | 장기적 원자로 이용 계획

주/ 그림 출처

중국이 개발한 인공지능 감시기술은 세계 각국으로 수출되고 있다. 조만간 세계 인구 대다수가 중국산 감시 시스템 아래에 놓일 것이라는 예상도 가능하다. 이 시스템은 모든 시민을 하루 24시간, 일주일 내내 관찰하고 모든 행동을 모니터링할 것이다. 인공지능 감시 시스템의 알고리즘은 조지 오웰이 상상했던 빅브라더보다 훨씬 뛰어나다. 문제는 이처럼 훌륭한 기술이 개인의 자유를 보호하는 방향이 아니라 자유를 포기하도록 이용될 가능성이 더 크다는 점이다.
과학기술은 어떻게 사용하고 누가 통제하느냐에 따라 민주주의를 개선하거나 약화할 수 있다. 현재 과학기술은 소수에 의해 통제되고 있다. 소수는 자신이 가지고 있는 통제 권력을 나누려고 하지 않는다. 많은 권력이 소수의 손에 집중될 때 그 결과는 민주주의에도, 다수에게도 좋지 않다는 것을 역사가 증명하고 있다.

인공지능을 누가 작동하고 운영하느냐, 즉 그 알고리즘을 누가 만들고 관리하느냐에 따라 인공지능은 크고 작은 정치적 또는 사회적·문화적 편향성을 가질 수밖에 없다. 다시 말해, 인공지능의 알고리즘을 설계하고 관리하는 사람 또는 집단의 성향, 선호, 가치 등의 요소가 처음부터 그 알고리즘에 반영될 가능성이 상당히 크다.
대표적인 사례로 아마존은 몇 년 전 직원 채용 과정에 처음으로 인공지능을 도입했다. 채용 담당자의 개인적 의견이 개입되지 않는 투명한 채용이 목적이었다. 하지만 나중에 결과를 보니 인공지능이 남성 지원자를 선호하는 경향이 확인되어서 결국 인공지능에 의한 채용을 중단했다. 인공지능의 알고리즘을 설계할 때 그 설계자의 성향과 가치판단이 처음부터 포함되었기 때문에 생긴 일이다.

트럼프가 빅테크들과 전면전을 위해 소송을 제기했다면, 바이든 행정부는 대통령과 정부의 권력을 총동원해 빅테크들을 최대한 압박하고 있다. 바이든 대통령은 2021년 7월 9일 미국 경제의 경쟁 촉진에 대한 행정명령에 서명하며, 기업 간 경쟁을 확대하고 독과점 관행을 단속하라고 행정부에 지시했다. 여기에는 빅테크 등이 잠재적 경쟁자를 인수해 해당 업체의 혁신 상품 개발을 중단시켜 경쟁을 사전 차단하는, 이른바 ‘킬러 인수(killer acquisition)’를 제한하는 규칙을 만들도록 하는 내용이 들어 있다. 빅테크의 중요한 사업 관행을 정면으로 막겠다는 것이다.