AI, 차별, 소통

차별받지 않는 인간을 위한 AI

01 차별적 AI와 인간
02 AI와의 소통과 차별
03 AI와의 대화 유형과 차별
04 차별적 AI와 보이나 보이지 않는 소통
05 차별적 AI와 편향성
06 인간 대 AI의 소통 전형성과 미세차별
07 차별적 AI와 소통 문화의 지역성·역사성
08 반어?완곡어법?농담?은어의 소통 문화와 차별적 AI
09 차별적 AI와 차별 제어의 영향들
10 차별하지 않을 이유, AI에게서 찾다

소통의 맥락은 전반적으로 교차적이고 복합적이다. 차별이 나타나는 것도 바로 그 지점이다. 그리고 이것이 우리가 살고 있는 세상이며 AI가 담고 있는 세상이다. 돈 많고 외모도 출중한 여배우의 경우는 때로는 차별 대상이 우리에게도 AI에게도 확정적이지 않음을 보여 준다.

AI의 기능이 놀라울 정도로 향상돼 최대한 인간 세상을 잘 사상(寫像)해 낸다 해도 특히 차별에 관한 한 바로 그 인간 세계의 불완전성 때문에 AI는 우리가 기대하는 만큼의 공정성과 합리성을 구현해 내지 못할 가능성이 크다.

－01_“차별적 AI와 인간” 중에서

인간의 소통 문화는 가시성을 띠기도 하지만 비가시적이기도 하며 차별이 드러나는 비가시적 소통 문화는 은폐되기 쉽다. 아울러 생성형 AI의 유창성이 차별 관련 소통 문화에 갖는 함의를 생각해 본다. 특히 생성형 AI는 출력 시 확률적 계산에 의해 문장 내 단어가 다른 단어와 맺는 관계에 따라 특정 단어가 선택되는가 하면 이전의 출력 결과물이 다음의 입력값으로 사용된다.

－04_“차별적 AI와 보이나 보이지 않는 소통” 중에서

미세차별(microaggression)은 micro와 aggression이 결합되어 만들어진 합성어이며, 2015년 『옥스퍼드 영어사전(Oxford English Dictionary)』에도 등재되었다. 말 그대로 미세하지만 공격적인 차별을 말한다(Sue D. W, 2010). 일상적으로 흡입하는 미세먼지와도 같아서 사람에 따라서는 ‘먼지차별’이라 부르기도 한다.

미세차별엔 의도성이 꼭 수반되지도 않는다. 상대가 의도적으로 한 말이나 행동이 아니어도 당사자가 모멸감을 느끼면 미세차별에 해당할 수 있다(BBC 뉴스 코리아, 2018. 4.20).

－06_“인간 대 AI의 소통 전형성과 미세차별” 중에서