인공지능의 편향과 챗봇의 일탈

들어가며

1부 인공지능의 편향
1장 인공지능의 공정성과 데이터의 편향성 –김정룡·정원섭
2장 인공지능으로 인한 불투명의 문제를 다루는 제도적 방안 -김건우
3장 인공지능의 편향과 계몽의 역설에 대한 반성적 접근 -정성훈

2부 챗봇의 일탈
1장 스캐터랩 ‘연애의 과학’과 ‘일상대화 인공지능’ 사이의 관계를 인공지능 연구개발 커뮤니티에 어떻게 설명해 왔는가? -오요한
2장 ‘연애의 과학’이라는 주술과 챗봇 ‘이루다’라는 전략 게임 -정성훈
3장 자연어이해와 대화형 챗봇 엔진의 구현 기술 –강승식
4장 인간다운 인공지능 챗봇의 지향에 대한 경계: 우리는 어떤 챗봇을 기대하는가? -장윤정
5장 챗봇 ‘이루다’가 남겨야 하는 것 –윤미선
6장 챗봇의 사회적 능력: 이루다·샤오빙·린나 -양일모
7장 ‘이루다’의 후속 이슈들: 새인정보보호위원회의 행정처분, 스캐터랩의 정중동 행보, 대화형 인공지능 연구성과, ‘연애의 과학’ 일본어 사용자들의 데이터, 쇠소한의 비식별화 조치, 그리고 자본의 문제 -오요한

인공지능 알고리즘에 대한 인위적 개입이라는 점에서 통상적인 불공정 행위와는 그 성격이 매우 달라 보인다. 왜냐하면 모 기업에서는 자신들의 행위가 시장의 공정 경쟁을 침해하는 불법행위가 아니라 알고리즘의 성능을 향상하기 위한 불가피한 개입이라고 주장하고 있기 때문이다. 더욱 좋은 결과를 얻기 위해서 기존의 알고리즘에 개입해야 한다면 우리는 인공지능이 제시한 결과를 어떻게 받아들여야 하는가?

인공지능의 기능을 향상하기 위한 학습 데이터는 자연·사회 현상을 기록한 기존 자료로부터 추출되거나 특별한 목적을 가지고 설계된 실험을 통해서 추출된다. 그런데 이 과정에서 연구의 객관성을 유지하는 데 필요한 시도를 충실히 수행하더라도 연구자의 의도와 달리 편향성을 가지고 데이터를 선택하는 경우가 적지 않다.

감사의 방법과 관련한 이러한 쟁점을 고려한다면, 알고리즘의 입·출력물을 공개하도록 제도화하는 것도 하나의 방안일 수 있다. 원칙적으로, 인공지능의 활용 주체에게는 인공지능의 공정성과 투명성을 기하기 위해 개인(서비스·정보의 주체)에게 필요한 정보를 제공해야할 의무가 있고, 개인은 그러한 정보를 제공받을 권리를 가진다. 입·출력물 공개제도는 바로 이러한 원칙의 결과라 할 것이다. 이 방안 역시 오닐이 제시하는 것의 하나인데, 그는 이를 통해 알고리즘의 투명성을 강화할 수 있다고 주장한다.