[큰글자책] AI 안전

왜, AI 안전인가?

01 AI 안전과 안전권
02 AI 안전의 가치
03 AI 안전을 위한 규제 원칙
04 AI 서비스 제공 및 이용의 안전
05 AI 안전과 소비자 보호
06 설명 가능한 AI와 기술적 구현
07 AI 안전과 제조물 책임
08 AI 안전 거버넌스
09 AI 안전과 신뢰 사회
10 시사점

디지털 심화기에는 국민 누구라도 안전한 상태에서 일상생활을 영위할 수 있어야 한다. 안전은 추상적인 개념이지만 헌법상 안전권이라는 기본권 차원에서 논의가 이루어지고 있다. 다만, 직접적인 기본권이라기보다는 파생적 기본권으로 안전권이 논의되고 있다. AI의 안전은 AI가 가져오는 의사 결정의 투명성도 포함할 수 있다. 블랙박스화된 AI가 내린 결정은 이용자가 수용할 수 있는 수준의 신뢰성을 가질 수 있어야 한다는 의미다. 그렇지 않을 경우 안전의 전제가 되는 신뢰성을 가지기 어렵기 때문이다. 이를 위해 AI 결정에 대한 설명 의무를 부여하거나 설명 가능한 AI의 개발이 진행 중이기도 하다. 더 나아가서 SW 안전이라는 국가의 책무에 대해 디지털 안전이라는 확장된 개념으로 프레임을 구성하는 것도 의미가 있다.

－01_“AI 안전과 안전권” 중에서

AI가 가져오는 여러 가지 문제에 대응해야 한다는 당위성은 인정된다. 다만, 기술에 대한 규제는 자칫 기술 투자나 개발을 저해할 수 있으며, 기술 중립성에 위배될 수 있기 때문에 기술 규제는 지양될 필요가 있다. 따라서 원칙 중심으로 갈 것이냐 위험 기반에 따른 규제로 갈 것이냐의 정책적 결정이 필요하다. 위험 중심의 방식이나 원칙에 따른 위험 대응이냐는 방법론의 차이지, 안전을 위한 AI 규제 목적은 크게 다르지 않다.

－03_“AI 안전을 위한 규제 원칙” 중에서

AI가 안전하게 작동하려면 단순히 성능만 좋은 것이 아니라 그 결과를 사람이 이해할 수 있어야 한다. 그래서 최근에는 설명 가능한 AI를 만들거나, 결과에 대한 신뢰성을 높이는 기술을 개발하는 방향으로 연구가 진행되고 있다. 먼저, 설명 가능한 AI가 구체화하기 전 단계로서 요구받는 안전성 확보 방안으로 알고리즘 공개가 주장된다. 알고리즘을 공개함으로써 문제의 원인을 찾고, 그에 따른 대응 방안을 찾을 수 있다는 이유다. 다만 사업자들은 알고리즘 공개에 대해 영업 비밀이나 기업 정보가 외부에 유출됨으로써 기업 자산이 제3자에게 유출될 수 있다고 주장한다. 이러한 우려를 불식하기 위해 알고리즘 공개는 일반 공중이나 제3자에 대한 공개이기보다는 관리 가능한 객관적이고 공정한 기관을 통해 이루어지도록 설계해야 한다.

－06_“설명 가능한 AI와 기술적 구현” 중에서