AI와 감응력

우리는 왜 기계에게 마음을 부여하는가

01 AI와 저자성
02 감응력과 도덕적 기준
03 AI의 ‘감정 연기’와 도덕적 감응력
04 감응력 없는 AI
05 도덕적 주체 착각
06 책임 없는 행위자
07 불확실성과 도덕 판단
08 반성적 평형
09 공적 정당화
10 감응력 기반 판단

결국 우리가 AI를 저자처럼 느끼는 이유는 AI가 실제로 저자이기 때문이 아니라 인간이 의미를 경험하는 방식 때문이다. 우리는 의미 있는 언어를 접하는 순간, 그 언어를 생성한 주체를 상정하도록 구성된 존재다. 그리고 생성형 AI는 바로 이 인식 구조를 가장 효율적으로 자극하는 기술이다. AI는 스스로 의미를 이해하지 않지만 인간이 의미를 경험하도록 설계된 형식으로 언어를 생산한다. 그래서 우리는 AI가 말하고 있다는 사실보다 우리가 그 말을 어떻게 느끼는지가 더 중요해진다. 이때 저자성은 AI의 존재적 성질이 아니라 인간의 해석 경험 속에서 형성되는 효과가 된다. 문제는 바로 여기서 발생한다. 우리는 AI를 저자처럼 느끼지만 실제로 AI는 저자가 아니다. 우리는 AI의 말에 감정적으로 반응하지만 AI는 우리의 반응을 경험하지 않는다. 우리는 관계를 형성하는 것처럼 느끼지만 그 관계는 일방적이다.

－01_“AI와 저자성” 중에서

이 점에서 AI의 감정 표현은 ‘감정 경험’이라기보다 ‘감정 연기(emotional performance)’에 가깝다. AI는 감정을 느끼기 때문에 감정을 표현하는 것이 아니라, 감정을 표현하도록 설계되었기 때문에 감정처럼 보이는 출력을 생성한다. 사용자에게는 이 두 경우가 거의 구별되지 않을 수 있지만, 도덕적 관점에서 이 차이는 결정적이다. 감정을 연기하는 존재와 감정을 경험하는 존재는, 외형상 유사하게 보일 수는 있어도 도덕적 감응력이라는 기준에서는 전혀 다른 위치에 놓이기 때문이다.

－03_“AI의 ‘감정 연기’와 도덕적 감응력” 중에서

따라서 책임 공백 문제의 핵심은, AI에게 책임을 부여할 것인가의 문제가 아니라, 책임이라는 개념이 더 이상 자연스럽게 작동하지 않는 기술적 조건이 형성되고 있다는 사실 자체에 있다. 책임 공백은 새로운 행위자가 등장했기 때문에 생긴 문제가 아니라, 책임이라는 개념이 전제해 왔던 행위자 구조가 더 이상 세계의 실제 작동 방식과 맞지 않게 되었음을 보여 주는 증상에 가깝다. 바로 이 점에서 책임 공백은 단순한 법적 공백이 아니라, 현대 기술 사회가 직면한 윤리적 구조 변동의 핵심 징후라고 할 수 있다.

－06_“책임 없는 행위자” 중에서