[큰글자책] AI와 성의 경계

새로운 경계를 탐구하며

01 성 그리고 윤리
02 성윤리의 역사
03 다양한 유형의 섹스와 전통적 성윤리의 한계
04 섹스로봇의 등장과 전통적 성윤리
05 섹스로봇의 진화와 성윤리
06 인공지능 섹스로봇의 현실성과 형상
07 섹스로봇에 대한 성 규범의 상징성과 의미 부여의 주관성 문제
08 섹스로봇 논쟁 해석
09 섹스로봇에 대한 균형 잡힌 논의
10 AI와 성의 경계

누가 AI를 가르칠 것인가. 어떤 인간이, 어떤 가치관을 가지고, 어떤 목적을 위해 AI를 설계할 것인가.

불완전한 교사가 불완전한 가르침을 제공할 때, 그 제자로서 AI는 결코 그 한계를 벗어날 수 없다. 오히려 그 한계를 그대로 복제하고, 더 정교하게, 더 빠르게, 더 보편적인 체계로 확장해 버릴 수 있다. 결국 우리는 AI를 통해 인간을 가르치는 시대에 진입했지만, 실상은 불완전한 인간이 만든 AI가 다시 인간을 되가르치고 있는 상황에 처한 것이다. 이것이 바로 AI 시대가 안고 있는 역설이다. 기술은 더 정확해지고, 더 효율적이며, 더 광범위한 학습이 가능해졌지만, 그 토대 위에는 여전히 인간의 불완전성과 편향이 깔려 있다. AI가 아무리 많은 데이터를 학습하더라도, 그것이 윤리적 성찰이나 철학적 사유를 담보할 수는 없다.

－01_“인간을 위해 설계된 AI, 인간을 왜곡하다” 중에서

앞서 살펴보았듯, 정보를 전달하는 언론은 사회적으로 큰 책임을 수반하는 행위자다. 그러나 이 책임이 알고리즘 기반의 AI로 이전되면서, 구조적 문제가 발생한다. AI는 책임을 지지 않으며, 구독자의 클릭과 체류 시간을 늘리기 위해 보다 자극적이고 감정적인 프레이밍을 선택할 가능성이 높아진다. 즉, 알고리즘은 사용자의 흥미를 유발하는 방향으로 작동하며, 그 과정에서 정보의 균형성과 공익성은 희생될 수 있다.

－03_“AI는 어떻게 사회를 극단화하는가?” 중에서

이제 문제는, 이러한 위험 해석과 담론의 전개가 AI 알고리즘에 의해 조율되기 시작했다는 점이다. 재난이 발생하면 사람들은 뉴스를 보고 검색을 하며 정보를 찾는다. 그런데 어떤 뉴스가 먼저 보이는가? 어떤 해시태그가 실시간 트렌드로 떠오르는가? 누가 먼저 사람들의 타임라인에 등장하는가? 이 모든 것은 이제 알고리즘이 결정한다. 알고리즘은 클릭과 반응을 우선한다. 그렇기 때문에 더 자극적이고 감정적인 정보일수록 먼저 확산한다. 공포와 분노, 혐오와 음모는 빠르게 퍼지고, 차분한 설명과 복잡한 분석은 뒤로 밀린다. 그렇게 알고리즘은 재난에 대한 해석을 편향시키고, 특정한 담론을 ‘주류’처럼 만들며, 위험의 구조 자체를 재편성한다.

－06_“알고리즘은 새로운 재난이 될 수 있는가?” 중에서