헬스케어 AI 윤리

왜 헬스케어 AI 윤리인가?

01 헬스케어 AI의 약속과 그에 대한 질문
02 헬스케어 AI 윤리와 원칙 기반 접근
03 원칙 1: 인간의 자율성 존중과 보호
04 원칙 2: 인간의 행복, 안전, 공공의 이익 증진
05 원칙 3: 투명성, 설명 가능성, 신뢰성
06 원칙 4: 책무, 법적 책임
07 원칙 5: 포괄성, 공정성
08 원칙 6: 대응성, 지속 가능성
09 헬스케어 AI 연구 윤리 자율 규제 거버넌스
10 헬스케어 AI 윤리 환자·시민 참여

헬스케어 AI가 도입된다고 하여 보건 의료 영역 또는 헬스케어에서 환자 및 시민의 역능 강화(empowerment)가 자연스럽게 이루어질 것이라는 예상은 과도하다. 오랫동안 전문가가 독점해 온 보건 의료 영역은 특히 그 지식의 복잡성과 실천의 무거움으로 인해 여전히 환자와 시민의 접근이 쉽지 않다. 의료 지식이 대중화된다고 해도, 오랫동안 다양한 경험을 해 온 의료인이 아닌 환자에게 스스로 의료적 결정의 책임을 지도록 하는 것은 오히려 환자에게 해를 끼치는 결과를 낳을 수 있다.

－01_“헬스케어 AI의 약속과 그에 대한 질문” 중에서

AI 기만이란 설정된 목적을 달성하기 위해 인간을 포함한 다른 행위자에게 거짓 믿음을 심도록 AI가 체계적으로 활동하는 것을 의미한다. 가짜 뉴스 사례가 제시하는, 주로 인간 행위자가 AI 도구를 활용해 의도적으로 다른 행위자를 오도하기 위한 정보를 생산하는 역정보와 AI 기만은 차이를 보이는데, 특히 AI 기만은 반드시 어떤 정보를 생성하는 방식으로만 작동하지 않는다는 점에서 그렇다. 위 사례에서 볼 수 있듯, 인간 행위자에게 체계적으로 특정 정보를 제공하지 않는 방식으로 행위자에게 잘못된 믿음을 심는 AI는 역정보 생산과 무관한 AI 기만의 형태를 보여 준다.

－03_“원칙 1: 인간의 자율성 존중과 보호” 중에서

헬스케어 AI의 개발과 활용에서 각 당사자, 즉 개발자·연구자·의료인·환자·시민·정부 등은 각자 책무(accountability)와 법적 책임(legal obligation and liability)을 져야 함을 헬스케어 AI 윤리의 책무, 법적 책임 원칙은 말하고 있다. 여기에서 책무란 좁게는 연구자와 개발자의 책임 있는 연구·개발 수행을 의미하지만, 넓게는 의료인·환자·시민을 포함한 AI 사용자가 자신의 책임하에 해당 알고리듬이나 앱을 활용해야 함을 의미하기도 한다. 법적 책임은 헬스케어 AI의 개발·활용과 관련해 발생한 피해를 보상하는 데서 각 행위자의 피해 최소화 노력과 함께 구체적인 보상 방안이 마련되어야 함을 요구한다. 따라서 책무가 모든 행위자의 책임 있는 행위를 요청하는 보편적 명령이라면, 법적 책임은 피해 보상과 관련해 개발자나 기관에서 어떤 행동을 취할 것인가와 관련된 실제적 규제라고 할 수 있다.

－06_“원칙 4: 책무, 법적 책임” 중에서