[큰글자책] AI와 공공 정책

공공 정책에서 AI의 영향과 역할

01 데이터 기반 행정: 전자 정부
02 AI를 접목한 공공 서비스
03 AI와 근거 기반 공공 정책
04 빅 데이터와 공공 정책 수립
05 공공 정책과 AI의 부조화
06 생성형 AI의 등장과 데이터 보안
07 공공 정책의 과학화
08 AI가 가져올 정책 현장의 변화
09 AI의 정책 왜곡 가능성
10 AI 기반의 현명한 정책 수립

이 챕터에서 논하고자 하는 전자 정부 인프라를 직접적으로 평가하는 세부 항목은 온라인 서비스 지수에 해당한다. 온라인 서비스 지수는 2003년에 18위였으나 2004년에 4위로 비약적인 상승을 이루었다. UN의 온라인 서비스 지수를 평가할 때 측정하는 세부 항목의 배점 비중을 살펴보면, 기관 프레임워크(10%), 서비스 제공(45%), 콘텐츠 제공(5%), 기술(5%), 온라인 참여 지수(35%)로 구성되어 있다(UN DESA, 2022). 기관 프레임워크는 전자 정부 구축과 운영을 위한 제도적, 법률적 기반 마련을 의미하며, 온라인 참여 지수는 전자 정부 웹사이트를 통한 시민이 공공 정책 형성이 얼마나 활발한지에 관한 지표다. 나머지 세부 지표는 제목에서 직관적으로 이해가 가능한 항목들이다. UN은 서비스 제공과 온라인 참여 지수에 높은 비중을 두고 있음을 알 수 있는데, 이는 전자 정부의 핵심은 단순히 홈페이지를 통한 일방적 정보 제공에 그치는 것이 아니라 실제 업무를 온라인으로 처리할 수 있고, 전자 정부가 국민과 정부의 소통 창구가 되어야 한다는 의미로 해석할 수 있다.

－01_“데이터 기반 행정: 전자 정부” 중에서

AI의 활용이 용이해진 현시점에서 공공 부문에서는 공공 정책 수립에 필요한 근거 자료를 다양한 데이터 소스에서 확보할 수 있다. 과거에는 사람이 다양한 자료를 직접 읽어 본다거나, 여러 사람의 의견을 조회해 본 결과를 바탕으로 시사점들을 도출했다면, 지금은 방대한 자료를 AI 모델에 학습시켜 핵심 정보를 자동으로 추출하게끔 한다거나, 굳이 새롭게 의견 수렴을 위한 활동을 벌이지 않고 인터넷 또는 사회 관계망 서비스(SNS), 각종 데이터베이스에 존재하는 자료들을 긁어모아 사회의 이슈가 무엇인지 알아낼 수 있는 세상이 되었다. 이는 민간 부문에서는 마케팅이나 전략 수립을 위해 이미 활발히 적용하고 있는 것들이다.

－03_“AI와 근거 기반 공공 정책” 중에서

이러한 보안 이슈는 외부의 AI 서비스를 이용하지 않고 정부가 직접 생성형 AI를 구축하더라도 자유로울 수 없다. 정부가 직접 언어 모델을 구축할 경우 데이터가 정부 밖으로 전송되는 것은 아니므로 데이터 유출에 대해 일차적으로는 방지할 수 있으나, 이러한 경우 정부가 외부의 악의적 공격에서 데이터를 보호해야 하고, 생성형 AI는 서버 자체를 해킹하지 않더라도 언어 모델 자체나 인터페이스의 허점을 이용해 학습 데이터를 추출해 내는 것이 가능한 것으로 알려져 있어 이에 대한 대응책을 마련해야 한다. 국가정보원(2023)은 이러한 위험을 지적했는데, 해당 문헌에서 제기한 대표적 위험으로는 ① 언어 모델이 가공되지 않은 학습 데이터 문자열을 그대로 출력할 가능성, ② 기밀 정보가 비기밀 정보와 합쳐져 출력되면서 기밀 정보의 내용을 유추할 수 있게 될 가능성, ③ 다른 사용자의 이용 내역이 오류로 인해 다른 사용자에게 노출될 가능성 등이 있다.

－06_“생성형 AI의 등장과 데이터 보안” 중에서