인공지능 거버넌스

새로운 지능과 거버넌스

01 AI는 안전한가
02 기술 개발 중단 논란
03 글로벌 지정학
04 몇 가지 핵심 원칙
05 AI 윤리 규범
06 위험 관리 규제
07 기술 안보 조치
08 플랫폼 비즈니스
09 자율주행 시스템
10 자율제조 혁신

훈련된 데이터에 편향성이 있다면 부당하고 차별적인 결과물이 나올 수 있고, 이를 학습한 AI 시스템이 사회적 차별을 심화하는 부작용을 가져올 수 있다. 일례로 2014년부터 아마존은 AI 채용 시스템을 도입하려는 야심찬 프로젝트를 준비했으나, 남성 중심의 데이터셋으로 인해 여성에 대한 편견과 차별이 나타났고, 결국 프로젝트를 폐기했다. 2021년 한국에서 출시된 챗봇 ‘이루다’는 여성과 성소수자를 혐오하는 발언으로 서비스가 중단되기도 했다.

－01_“AI는 안전한가” 중에서

투명성은 그 맥락에 따라 다소 차이가 있다. 정책적 측면에서 투명성은 주로 의사 결정이 어떻게 이루어지는지, 누가 그 과정에 참여하는지, 어떤 요소를 사용하는지 등 내부를 공개하는 것이다. 반면 기술적 측면에서는 AI 시스템이 어떻게 개발되고 훈련되며 배치되는지를 일반인이 이해하도록 하는 것을 의미하며, 영업 비밀에 속하는 특정 소스코드나 데이터셋의 공개를 요구하지는 않는다. 어느 수준의 투명성을 요구할지 많은 논란이 있지만, AI 시스템의 투명성 원칙은 설명 가능성에 초점을 두어 그 결정과 행위에 대해 알아듣기 쉽게 설명할 것을 요구한다.

－04_“몇 가지 핵심 원칙” 중에서

규제 방식에서 상향식 접근과 하향식 접근이 구분된다. 상향식은 AI 행위자의 자율적 문제 해결과 능동적 참여를 강조하는 반면, 하향식은 AI 개발·사용에 대한 선험적 규칙과 제재 부과에 초점을 둔다. 전자에는 미국의 위험 관리 체제, 후자에는 EU 인공지능법이 해당된다.

－06_“위험 관리 규제” 중에서