[큰글자책] AI 로봇과 안전

AI 로봇 위험성 측정 지표의 필요성

01 AI 로봇 발전사
02 AI 로봇 정의
03 AI 로봇의 인간 신체 위협
04 AI 로봇의 인간 권리 침해
05 AI 로봇의 재산상 손해 유발
06 AI 로봇의 사회적 문제
07 AI 윤리 원칙과 로봇 윤리
08 AI 로봇의 위험성 측정 지표 개발
09 AI 윤리 원칙과의 관계성
10 AI 로봇 위험성 측정 지표 활용 방안

아이로봇이라는 공상과학 영화에서 보던, 음식을 만들고 심부름 등 가사 도우미 역할을 하는 로봇이 현실에서도 나타났다. 우리에게 로봇이란 더 이상 영화에서만 보던 존재가 아니다. 최근에는 재활이나 일상 보조 역할을 하기 위해 인간 신체에 착용하는 웨어러블 로봇이 개발되었다. 중국에서는 휴머노이드 로봇이 마라톤 대회에 참가해 완주했다. 효과적으로 병을 치료하기 위해 액체로 된 체내용 로봇도 개발이 한창이다.

－01_“AI 로봇 발전사” 중에서

앞으로 휴머노이드와 함께 사는 미래 사회에서는 휴머노이드로 인한 여러 가지 위험 상황과 윤리적 문제가 일상적으로 일어날 수 있다. 이 경우, 휴머노이드를 구매한 인간에게 형사에 대한 상해 또는 과실치상의 책임을 물어야 하는지, 휴머노이드를 제작하고 판매한 제조사에게 배상 책임을 물어야 하는지에 대한 논란이 생길 것이라는 것은 충분히 예상되는 시나리오다.

－03_“AI 로봇의 인간 신체 위협” 중에서

최근 알파고 개발자는 AI 기술이 잘못 사용될 가능성을 우려한다며 악의적인 사용자가 이 기술을 해로운 목적으로 전용할 수 있다고 우려했다. 또한 인간 수준의 지능을 갖춘 AI를 통제할 안전장치가 부재할 가능성을 매우 위험하다고 했다. AI 로봇은 필요한 데이터를 직접 수집해서 학습하고 자율적으로 판단할 수 있기 때문에 프로그래밍한 대로 행동하지 않을 수 있으며, 인간의 명령이나 예측에서 벗어나는 말을 하기도 한다.

－06_“AI 로봇의 사회적 문제” 중에서