[큰글자책] 인공지능과 인간의 위기

디지털 문명 앞에 선 인간

01 기술과 인간학
02 디지털 사회와 신체 기관의 확장
03 인공지능과 디지털 사회의 재편
04 인공지능과 기억의 위기
05 디지털 네트워크와 알고리즘 통치성
06 디지털 네트워크와 정치의 위기
07 디지털 네트워크와 성찰적 삶의 위기
08 디지털 네트워크와 노동의 위기
09 인공지능과 전쟁의 변화
10 인공지능 사회와 인간의 소외

그렇다면 인간으로 존재하기 위해서 기술이 필요하다는 것을 강조하는 것만으로 기술에 대한 논의는 충분할까? 기술의 유한성 혹은 기술의 한계는 무엇일까? 이를 위해 우리는 다시 프로메테우스가 가진 지식에 대해 살펴보아야 한다. 프로메테우스가 가진 앎은 프로메테이아(pro-metheia)인데, 이것은 미래에 대한 앎이자 기대함이다. 즉 미래는 아직 오지 않았지만, 이에 대응하기 위해 준비하는 태도와 통찰하는 인간의 독특한 활동이다. 이에 반해 에피메테우스(Ephi- metheus)는 잊기 쉬운 자, 실수하는 자라는 특징을 가지고 있다. 이것은 인간의 연약한 면을 반영하고 있다. (…) 인간은 약한 존재로 태어났으나, 불(기술)을 통해 신처럼 문명을 창조하는 존재가 될 수 있었다. 그러나 그 창조의 힘은 동시에 인간이 직면해야 할 위험과 책임을 의미하기도 한다. 이로 인해 인간은 독특한 운명에 노출된 채 살아갈 수밖에 없는 운명을 가지게 된 것이다. 따라서 우리는 기술의 양면성을 염두에 두고서 기술에 접근해야 한다.

－01_“기술과 인간학” 중에서

플랫폼의 투명성 보고서는 공식 요청의 수치 일부만 보여줄 뿐, 이러한 비가시적 압력까지 충분히 드러내지 못한다. 바로 이 지점에서 플랫폼의 딜레마가 발생한다. 정부 요구를 거부하면 서비스 전체가 차단되거나 사업이 위협받고, 이를 수용하면 표현의 자유를 훼손하고 국가 권력의 검열에 협조한다는 비판을 받는다. (…) 결국 오늘날 인터넷은 자유로운 연결의 공간으로 남아 있으면서도 동시에 국가 권력과 플랫폼 기업의 협상, 압박, 타협 속에서 끊임없이 분할되고 조정되는 공간이 되었다. 그리고 이런 통제의 방식은 그 변화의 중심에서, 자유의 보편성을 해치지 않는 것처럼 보이면서 실제로는 국가별 통제를 정교하게 집행하게 만드는 핵심 기술로 자리 잡고 있다.

－03_“인공지능과 디지털 사회의 재편” 중에서

그 결과 우리는 지금 민주주의가 이성과 판단의 장이 아니라, 대중 동원과 맹목적 추종의 장으로 점점 변질되고 있는 현실을 목도하고 있다. 디지털 시스템은 대중을 감정적으로 결속시키고, 반복된 이미지와 선별된 메시지에 의해 특정 정치 집단이나 인물을 절대화하게 만든다. 그들은 판단하는 것이 아니라 ‘반응’한다. 이 반응은 알고리즘적으로 조정되며, 개별 유권자의 욕망은 이미 사전에 시뮬레이션된 모델 안에서 정렬된다. 군중은 더 이상 사유의 공동체가 아니라, 반사 작용의 집합체가 되며, 이러한 감정적 동일시는 ‘텔레크라시’?미디어 기술에 의해 형성된 정치 체제?를 통해 유지되고 강화된다. 이는 프로이트가 말한 군중 심리의 현대적 변형이며, 민주주의의 근간을 무너뜨리는 기술적 군중 정치의 양상이다.

－06_“디지털 네트워크와 정치의 위기” 중에서