[큰글자책] AI와 고용 차별

AI와 고용 차별, 그리고 정책의 역할

01 고용 분야에서 AI 활용
02 고용 분야에서 AI 활용의 위험성
03 AI의 차별
04 디지털 고용서비스의 AI 활용
05 AI 기반 고용서비스의 통계적 차별
06 AI의 통계적 차별에 대한 법적 대응
07 AI의 통계적 차별에 대한 정책적 대응
08 AI 기반 고용서비스와 프로파일링
09 고용서비스 분야 통계적 차별의 대응 방법
10 AI 기반 고용서비스 정책의 방향

고용 분야에서도 AI를 활용해서 의사 결정을 하는 궁극적인 목적은 인간의 결정을 AI가 대신하도록 하여 효율성을 증대하고 자원을 절약하기 위해서다. 또한 지금은 AI에 의한 고용 분야의 차별 문제가 대두되고 있지만, AI의 활용 초기에는 AI에 의한 결정이 인간의 결정에 비해 편견을 배제할 수 있어 더욱 객관적이라는 믿음도 있었다. 최근에는 AI에 의한 분석 결과를 기업의 인사 전문가나 리쿠르터(recruiter)가 참고하기 위해서 활용하는 것에서 더 나아가 AI 도구가 인간의 결정을 완전히 대체하는 사례가 늘어나고 있다.

－01_“고용 분야에서 AI 활용” 중에서

AI가 예측을 위해 알고리즘을 활용하는 것 자체 때문에 통계적 차별이 발생하는 것이지 분석 자료나 알고리즘에 문제가 있어서 차별이 발생하는 것은 아니다. 예를 들어, 노동시장에서 차별이 존재하지 않는다고 하더라도, 즉 알고리즘의 분석 자료에 문제가 없다고 하더라도, AI 시스템의 분석에서 이민자나 고령자와 같은 노동시장 취약 계층은 평균적인 구직자보다 고위험 구직자로 분류될 가능성이 커서 통계적 차별의 대상이 된다. 또한 알고리즘에 편향성이 반영되는 등의 문제가 없더라도 차별이 발생한다. 이러한 이유로 통계적 차별과 알고리즘의 편의(algorithmic bias)는 깊은 관련성이 있다.

－03_“AI의 차별” 중에서

EU 회원국에 국내 입법 절차가 필요 없이 직접 효력을 가지는 EU의 규정(Regulation) 제정 이외에, 회원국 자체적으로도 AI의 활용을 규제하고자 하는 움직임이 나타난다. 예를 들어, 2021년 독일 AI-사회적 책임과 경제적, 사회적, 생태적 잠재력에 관한 조사위원회의 최종 보고서는 AI가 가져올 다양한 위험성을 해결하기 위해 투명성, 추적성 및 설명 가능성의 중요성을 강조했다. 특히 채용에서 AI 활용에 따른 차별 문제가 나타나 미국과 유럽 등에서는 AI를 활용한 채용을 규제하려는 움직임이 나타나고 있다.

－06_“AI의 통계적 차별에 대한 법적 대응” 중에서