인공지능과 윤리

01 왜 인공지능윤리인가
02 로봇은 전자인격체인가
03 알고리즘 편향과 디지털 공평성
04 투명성과 설명가능성
05 책임과 책무성
06 뇌.컴퓨터 인터페이스와 정신의 경계
07 설계자, 제작자, 사용자 윤리
08 하향식 인공 도덕성 구현
09 상향식 인공 도덕성 구현
10 인공 도덕성과 인간 도덕성

‘인공지능의 윤리’는 인공지능 로봇의 발전에 따라 등장하는 쟁점들, 곧 인공지능 기술의 설계·생산·사용 등과 관련해 발생하는 윤리적 문제를 다룬다. 따라서 설계자·제작자·사용자 모두가 주체가 된다. 인공지능의 급격한 발전, 인공지능과 두뇌 간의 무유선 신호를 통한 연결은 기계와 인간, 물질과 정신의 경계를 흐린다. 전기 신호를 통한 뇌 자극은 물리적 개입을 통해 직접적으로 마음 상태를 바꾸는 기술이다. 이 기술은 정신과 물질의 구분을 모호하게 한다. 전기 신호로 뇌를 변화시켜 정신 상태도 변화시킬 수 있다면, 우리 인간의 정신은 결국 물질이라고 해야 하는 것인가? 자유의지나 인격 동일성은 더 이상 존재하지 않게 되는 것일까? 이러한 질문은 인공지능이나 뇌과학뿐만 아니라 인지과학, 심리학, 철학적 접근을 필요로 한다.
- “로봇윤리, 인공지능윤리” 중에서

인공지능에 적용되는 윤리는 ‘착하게 살아야 한다’는 좁은 의미의 윤리를 넘어선다. 여기서 윤리는 복잡한 상황에 적합한 의사 결정으로 관련 의사 결정 주체나 대상의 지속가능성을 확보한다는 넓은 의미를 띤다. 이렇게 윤리적 고려가 산업, 경영, 과학기술 등 거의 모든 분야를 이끄는 주요한 요소가 되는 것은 윤리 패러다임의 변화라고 할 수 있다. 인공지능 시대 이전에는 윤리적 사항들을 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았다. 과학기술과 윤리는 서로 영향을 미쳤지만, 실제 영향력은 크지 않았다. 과거에는 기술 발전과 비즈니스가 윤리와 갈등 관계에 있었던 반면, 인공지능의 발전은 도리어 윤리를 고려해야만 기술 발전과 비즈니스가 가능한 사회로 우리를 이끌고 있는 것이다.
- “왜 인공지능윤리인가” 중에서

무인자동차의 운행 방향에는 다수의 행인이 지나가고 있고 행인들에게 상해를 입히지 않기 위해 방향을 바꾸면 벽에 부딪쳐 운전자가 상해를 입게 된다. 이때 무인자동차는 어떤 결정을 내리도록 설계되어야 할까? 76퍼센트의 답변자들이 보행자 열 명 대신 탑승자 한 명을 희생하는 쪽이 더 도덕적이라고 판단했다. 그런데 “자기희생 모드의 무인자동차와 자기 보호 모드의 무인자동차가 판매될 경우 어느 차를 구입하겠는가”에 대한 질문에는 다수의 사람들이 자기 보호 모드의 차를 선택했다. 소수보다는 다수의 생명을 구하는 것을 더 좋은 도덕 판단으로 선택하면서도 정작 본인은 그렇게 프로그래밍된 무인자동차를 선택하지 않는다.
- “인공 도덕성과 인간 도덕성” 중에서