[큰글자책] AI와 인간관계의 변화

인간과 AI의 평화로운 공존을 위한 지혜

01 세상의 중심이 된 나
02 인간의 모든 것을 대체해 가는 AI
03 인공지능도 차별한다
04 타인의 영향과 협력 활동
05 대화의 바탕, 공통 기반의 차이
06 주체성과 의미 부여
07 의인화의 함정
08 설득과 착각
09 기계적 대화와 인간적 대화: 호모 이모셔니쿠스
10 생명과 삶, 그리고 희생정신: 호모 바이오니쿠스

사람도 지식도 대화도 모두 자기중심적으로 이루어진다면 애써 미디어를 발전시키는 것이 오히려 진정한 소통에 방해가 될 수도 있다. 인터넷이 처음 등장했을 때 ‘정보의 바다’라고 불렀다. 그러다가 연결의 비용이 저렴해지고 대중화하면서 인터넷은 ‘접촉의 바다’가 되었다. 그런데 이렇게 수많은 정보를 접할 수 있고 다양한 사람들과 만날 수 있는 공간임에도 불구하고, 사람들은 대체로 자신의 마음을 편하게 해 주는 정보를 더 찾으며 주로 마음 편한 대상과 연결하려 한다. 이러한 현상은 필연적으로 ‘인지적 일관성(cognitive consistency)’을 추구하는 인간의 본성에 기인하는 것일 수 있다(Gawronski & Brannon, 2019). 인간은 자신의 원래 생각과 일치하지 않는 정보는 받아들이지 않고 일치하는 정보만 받아들이려는 경향이 있기 때문이다.
－01_“세상의 중심이 된 나” 중에서

법적인 측면에서 손영화(2023)는 AI에 의한 차별의 주요 요인을 ① 알고리즘 설계에 기인한 차별(모델링 편향), ② 학습하는 데이터에 기인한 차별(교육 편향), ③ 집단 속성에 근거한 판단에 따른 차별 및 ④ 인간에 의한 책임 전가로 구분했다(278쪽). 알고리즘 설계에 기인한 차별은 AI 개발자가 특정 인종이나 민족에 불리하게 프로그래밍한 결과로서 나타나는 차별이며, 학습 데이터에 기인한 차별은 “데이터의 대표성 결여, 데이터에 반영된 기존 사회의 편견, 상관관계에 기초한 부정확한 예측”으로 인해 발현하는 차별을 말한다(280쪽). 실제로 개발자에게 편견이 없더라도 데이터 자체에 편파성이 개입할 가능성은 무궁무진하다. 인공지능 언어 모델 자체가 인간이 생산해 낸 데이터를 기반으로 하기 때문이다.
－03_“인공지능도 차별한다” 중에서

AI도 넓게 보면 사람과 환경을 이어 주는 미디어의 일종이라 할 수 있다(나은영, 2024). 세상의 모든 지식을 담고 있는 AI를 탑재해 ‘지능화한’ 미디어 자극의 위협에 잘 대처하려면 어떻게 해야 할까? 먼저, 인공지능 미디어가 제공하는 정보 중에는 가짜 정보도 포함되어 있음을 잊지 말아야 한다. 또한 지능화한 미디어는 인간을 도와주는 ‘보조 도구’로 활용하는 것이 바람직하며, ‘주체’의 자리를 인간이 양보해서는 안 된다. 더 나아가, 가상 미디어 공간을 즐기되, 실제와 가상을 구분하는 능력을 상실하지 않도록 유의할 필요가 있다. 끝으로, 가장 중요한 것은 인간은 ‘습관’의 동물이므로, 지능화한 미디어가 주는 정보에 의지하느라 ‘생각하지 않는 것’이 습관이 되지 않도록 주의해야 한다.
－06_“주체성과 의미 부여” 중에서