도덕적 AI와 인간 정서

감정 없는 공감: 감성 컴퓨팅의 윤리적, 신경과학적 과제

01 인간 정서의 뇌 신경과학적 원리
02 정서, 감정의 철학적 고찰
03 도덕적 판단과 정서 및 감정
04 정서 구성주의와 AI 도덕 판단 설계
05 감성 컴퓨팅과 AI의 감정 인식
06 공감하는 AI
07 인간-AI 관계의 변화
08 감정 노동 아웃소싱과 감성 AI
09 도덕적 AI를 위한 윤리적 기준과 사회적 책임
10 도덕적 탈숙련화와 도덕적 AI의 한계 및 도전 과제

리사 배럿(Lisa Feldman Barrett)의 정서 구성주의 이론(Theory of Constructed Emotion)은 전통적인 정서 이론과는 근본적으로 다른 관점을 제안한다. 배럿은 정서가 미리 정해진 생물학적 범주가 아니라, 뇌가 과거 경험, 문화적 개념, 현재의 감각 정보 등을 종합하여 능동적으로 구성해 내는 현상이라고 역설한다. 뇌는 끊임없이 변화하는 신체의 내부 상태와 외부 세계의 감각 입력을 예측하고 해석하여 상황에 맞는 정서적 의미를 부여한다. 이러한 과정에서 언어와 사회적 학습은 개인이 정서 개념을 형성하고 자신의 감각 경험을 특정한 정서로 분류하는 데 중요한 역할을 한다. 그의 이론에 따르면, 뇌의 주요 기능 중 하나는 신체의 시스템을 조율하고 조절하는 것이며, 이는 예측 코딩 메커니즘을 통해 이루어진다. 뇌는 과거 경험을 바탕으로 현재 상황을 예측하고, 예측과 실제 감각 입력 간의 불일치 즉, 예측 오류를 최소화하는 방향으로 내부 모델을 업데이트한다.

－01_“인간 정서의 뇌 신경과학적 원리” 중에서

흄은 당시 주류였던 이성 중심 윤리학에 근본적인 도전을 제시했으며, 그의 주장은 이후 도덕 심리학을 포함한 다양한 분야에 큰 영향을 미쳤다. 최근 도덕 판단 과정에서 전통적인 이성 중심 접근 방식과 대비되는 정서의 역할이 강조되고 있다. 조슈아 그린(Joshua Greene)과 동료 연구자들은 도덕 판단에 대한 ‘이중 과정 이론(dual-process theory)’을 제안하고 이를 지지하는 연구 결과를 발표했다. 그린의 이중 과정 이론에 따르면, 의무론적 도덕 판단은 자동적이고 정서적인 반응에 의해 주로 유발되며, 공리주의적 도덕 판단은 통제된 인지 과정에 의해 주도된다. 그의 연구에 따르면, 특정 유형의 도덕적 딜레마 즉, 인격적 딜레마는 현저하고 자동적인 정서적 반응을 유발하는 경향이 있으며, 이러한 반응은 행위의 부적절함과 같은 특정 판단과 빠르게 연결된다.

－03_“도덕적 판단과 정서 및 감정” 중에서

그린과 그의 동료들은 일련의 신경영상 연구를 통해 잘 알려진 트롤리 딜레마(trolley dilemma)의 두 가지 버전에서 도덕 판단에 따른 뇌 활동과 반응 시간에 차이가 존재하는지를 조사하였다. 첫 번째 사례인 트롤리 딜레마 즉, 스위치 케이스(switch case)에서 대부분의 참가자들은 트롤리 전차가 다섯 명을 향해 달려가고 있을 때, 전차의 방향을 바꿔 다섯 명 대신 한 명을 희생하는 것이 도덕적으로 허용 가능한가에 대해 긍정적인 대답을 하였다. 두 번째 사례는 인도교 딜레마(footbridge dilemma)로 참가자들은 다리 위에서 한 사람을 밀어 전차의 경로에 떨어뜨려 다섯 명을 구하는 것이 도덕적으로 허용 가능한가를 판단하도록 요청받았다. 이에 대부분의 참가자들은 트롤리 딜레마와는 달리 부정적인 대답을 하였다. 왜 이런 차이가 발생할까? 그린과 그의 동료들은 이러한 도덕 판단의 차이는 뇌의 서로 다른 심리적, 신경과학적 처리 경로 때문이라고 가설을 세웠다.

－06_“공감하는 AI” 중에서