공공 AI 영향평가

AI는 행정 권력인가

01 AI 행정국가와 영향평가의 계보
02 공공 AI 영향평가의 문제의식
03 공공 AI 영향평가의 시작
04 공공 AI 영향평가의 주체
05 공공 AI 영향평가의 대상
06 공공 AI 영향평가의 방법
07 공공 AI 영향평가의 공개와 참여
08 실패하는 AI 영향평가의 전형
09 공공 AI 영향평가 모델
10 공공 AI 영향평가의 의미

AI 영향평가는 이러한 조건 속에서 등장한 제도적 대응이다. 이는 디지털 기술이라는 새로운 대상에 대한 규제가 아니다. 오히려 행정국가가 오랫동안 반복해 온 질문, 즉 불확실한 위험 앞에서 어떻게 권력을 행사할 것인가라는 문제를 AI 환경에서 다시 제기한 결과다. AI 영향평가는 행정 권력이 기술과 결합하는 과정을 사전에 검토하고, 그 선택의 근거를 문서화하며, 책임의 위치를 다시 설정하려는 시도다. 이 점에서 AI 영향평가는 지속의 산물이다. 환경 영향평가, 개인정보 영향평가, 인권 영향평가로 이어져 온 제도적 계보는 AI 행정국가에서도 반복된다. 새로운 기술이 등장할 때마다 행정국가는 다시 한번 영향평가를 호출해 왔다. 이는 기술 변화에 대한 즉각적 대응이라기보다, 행정 권력을 민주적으로 정당화하고 책임을 구성하려는 제도적 노력의 연속선상에 놓여 있다.

－01_“AI 행정국가와 영향평가의 계보” 중에서

세 번째 유형은 이미 운영 중인 AI 시스템에 대해 외부의 검증 요구가 제기되면서 영향평가가 개시되는 경우다. 이는 사전 분류나 생애주기 관리 체계가 위험을 충분히 포착하지 못했음이 드러나는 상황에서 나타나는 보완적 경로다. 형식적으로는 사후 문제 제기처럼 보일 수 있으나, 실제로는 기존의 사전 통제가 실질적으로 작동하지 않았음을 드러내고 이를 재가동하는 계기로 기능한다.

－03_“공공 AI 영향평가의 시작” 중에서

알고리즘 영향평가의 첫 단계는 자동화된 의사 결정 시스템을 설명하는 것이다. 캐나다의 영향평가는 평가를 정확도나 처리 속도와 같은 기술 성능 분석에서 시작하지 않는다. 대신 행정기관이 해당 시스템의 목적, 사용 맥락, 결정의 성격, 자동화 수준, 그리고 인간 개입의 위치를 문서로 명확히 기술하도록 요구한다. 이 단계의 핵심은 자동화된 의사 결정 시스템이 어떤 행정 판단을 대체하거나 보조하는지, 그 판단이 시민의 권리와 의무에 어떤 영향을 미칠 수 있는지를 구조적으로 드러내는 데 있다.

－06_“공공 AI 영향평가의 방법” 중에서