EU 인공지능법

서문 / 5

제1장 인공지능 개관과 글로벌 규제 현황 / 17
제1절 인공지능 개관 / 17
Ⅰ. 인공지능 용어의 등장과 발전 과정 / 17
Ⅱ. 인공지능의 유형과 최근 인공지능 기술 / 20
Ⅲ. 인공지능과 인공지능 시스템의 개념 / 25
Ⅳ. 대규모 언어 모델 기반 인공지능 시스템의 등장 / 31
Ⅴ. 인공지능의 명(明)과 암(暗) / 35
제2절 글로벌 인공지능 규제 현황 / 42
Ⅰ. 서언 / 43
Ⅱ. 미국의 접근 방식 / 46
Ⅲ. 중국의 접근 방식 / 52
Ⅳ. 영국의 접근 방식 / 57
Ⅴ. G7-EU 주도의 글로벌 인공지능 이니셔티브 수립 / 60
제3절 소결 / 63

제2장 EU 인공지능법의 제정과 주요 내용 / 65
제1절 EU 인공지능법 개관 / 65
Ⅱ. 제정 목적 / 68
Ⅲ. EU 인공지능법의 구성 / 69
제2절 EU 인공지능법의 적용 범위 등 / 71
Ⅰ. EU 제품 안전법 규제 프레임워크의 채택 / 71
Ⅱ. EU 인공지능법의 적용 범위 / 72
제3절 위험 기반 접근 방식에 따른 차등화된 규제 / 84
Ⅰ. 위험 기반 접근 방식의 채택 / 84
Ⅱ. 금지된 인공지능 관행 (Prohibited AI practices) / 87
Ⅲ. 고위험 인공지능 시스템 (High-risk AI systems) / 100
Ⅳ. 특정 인공지능 시스템 (Certain AI systems) / 119
Ⅴ. 저위험 인공지능 시스템 (Minimal-risk AI system) / 122
제4절 범용 인공지능 모델 및 생성형 인공지능에 대한 규제 / 123
Ⅰ. EU 이사회의 입법 과정 검토 / 124
Ⅱ. EU 의회의 입법 과정 검토 / 126
Ⅲ. 3자 협상 및 정치적 합의 과정 검토 / 129
Ⅳ. 범용 인공지능 모델 및 생성형 인공지능 관련 규제 사항 / 135
Ⅴ. 소결 / 140
제5절 통일표준과 인공지능 규제 샌드박스 / 141
Ⅰ. 통일표준 / 141
Ⅱ. 인공지능 규제 샌드박스 / 144
Ⅲ. 소결 / 148
제6절 중앙 집중식 거버넌스 협력 체계와 강력한 제재 / 150
Ⅰ. EU 집행위원회 중심의 협력적 거버넌스 체계 구축 / 150
Ⅱ. 강력한 과징금 부과 / 153
제7절 소결 / 154

제3장 EU 인공지능법과 EU GDPR의 관계 / 159
제1절 인공지능과 EU GDPR과의 관계 / 159
Ⅰ. 인공지능과 개인정보 정의의 충돌 / 160
Ⅱ. 인공지능과 개인정보 처리 원칙 / 171
Ⅲ. 인공지능과 개인정보의 적법한 처리 근거 / 181
제2절 EU 인공지능법(AI Act)과 EU GDPR의 관계 / 190
Ⅰ. EU 인공지능법과 EU GDPR의 법적 성격 / 190
Ⅱ. 위험 기반 접근 방식을 통한 고위험 관리 / 193
Ⅲ. 영토적･인적 적용 범위의 중첩 / 195
Ⅳ. 물적 적용 범위의 중첩 / 198
제3절 EU 인공지능법과 EU GDPR의 법적 정합성 확보 방안 / 211
Ⅰ. EU 인공지능법상 EU GDPR 관련 규정 검토 / 211
Ⅱ. EU 인공지능법과 EU GDPR의 법적 정합성 확보 방안 / 220
제4절 소결 / 233

제4장 국내 인공지능법 및 개인정보 보호법의 정비 방향 / 237
제1절 서 언 / 237
제2절 국제 상호 운용성 확보를 위한 신뢰 기반 인공지능법 제정 방향 / 237
Ⅰ. 국내 인공지능 관련 입법 현황 및 한계 / 237
Ⅱ. 신뢰 기반 인공지능 생태계 조성을 위한 인공지능법 제정 방향 / 246
제3절 인공지능 시대 개인정보 보호법의 현황과 법제 정비 방향 / 266
Ⅰ. 현행 개인정보 보호법의 현황 및 한계 / 266
Ⅱ. 신뢰할 수 있는 인공지능을 위한 개인정보 보호법 정비 방향 / 286

제5장 결 론 / 295

〈부록〉 EU 인공지능법(EU AI Act) 번역본 / 301

사항 색인 / 474

제1장 인공지능 개관과 글로벌 규제 현황
제1절 인공지능 개관
인공지능과 관련된 정책이나 법률을 살펴보기 전에 인공지능이 무엇이고 어떻게 발전되어 왔는지 살펴보는 것이 선행되어야 할 것이다. 따라서, 여기에서는 인공지능의 개념과 발전 과정 및 인공지능의 유형과 기술에 대해 알아보도록 한다. 특히, 현재 가장 많이 활용되고 있는 인공지능 기술인 기계학습과 심층학습, 최근 급부상하고 있는 대규모 언어모델, 파운데이션 모델, 범용 인공지능 및 생성형 인공지능의 개념과 특징, 상호 간의 관계를 중심으로 살펴보도록 한다.
Ⅰ. 인공지능 용어의 등장과 발전 과정
1. 인공지능 용어의 창시와 개념화
‘인공지능(Artificial Intelligence)’이라는 용어는 1956년 인공지능의 아버지라 불리는 다트머스 대학교 수학자 존 매카시(John McCarthy) 교수가 처음 사용하며 등장하였다. 다트머스 회의(Dartmouth Conference)라 불리는 ‘인공지능 하계 연구 프로젝트’에서 존 매카시 교수는 약 10여명의 과학자들과 함께 인공지능에 대한 공동 연구를 진행하였고, 인공지능을 ‘지능적인 기계를 만드는 과학과 공학(the science and engineering of making intelligent machines)’으로 개념화하였다. 이후 약 50년이 흐른 2004년, 존 매카시 교수는 그의 논문에서 인공지능은 지능형 기계, 특히 지능형 컴퓨터 프로그램을 만드는 과학과 공학이라고 정의하였다. 한편, 1994년 스튜어트 러셀(Stuart Russell)과 피터 노빅(Peter Norvig)이 인공지능의 교과서라 불리는 “인공지능: 현대적 접근 방식(Artificial Intelligence:A Modern Approach)”이라는 저서에서 인공지능이 추구하는 목표를 4가지 범주로 분류함으로써 현대 인공지능 개념의 근간을 마련하였다.
2. 인공지능의 발전 과정
인공지능은 1950년 영국의 수학자 앨런 튜링(Alan Turing)이 기계가 생각할 수 있는지에 대한 의문을 제기하는 컴퓨팅 기계와 지능에 관한 논문을 발표한 이후, 비약적인 관심과 기대로 연구와 개발이 활발하게 이루어진 세 번의 ‘인공지능 붐(boom)’의 시기와 그와 반대로 기술의 한계나 기대에 못 미치는 성과로 인해 인공지능에 대한 관심이 줄어들고 연구가 침체된 두 번의 ‘인공지능 겨울’의 시기를 번갈아 맞이하며 발전해 왔다.
가. 제1차 인공지능 붐 (1950년대 후반～1960년대)
1950년대 후반에서 1960년대는 ‘인공지능’이라는 용어가 처음 등장하고, 컴퓨터로 추론과 탐색을 수행하는 연구가 활발히 이루어지는 등 인공지능이 태동하던 시기였다. 이 시기에는 인공지능이 추론 능력을 학습하면 인간과 같이 생각하고 결정할 수 있을 것이라고 기대하였다. 그러나 기대와는 달리, 복잡한 퍼즐 문제는 해결하여도 현실 세계의 간단한 문제는 해결하지 못하는 것으로 밝혀졌다. 이에, 인공지능의 가능성에 대한 회의와 비관적 시각이 커졌고, 1970년대에는 인공지능에 대한 연구 지원이 감소하는 ‘제1차 인공지능 겨울’이 왔다.
나. 제2차 인공지능 붐 (1980년대～1990년대)
1980년대에 제2차 인공지능 붐이 도래한 것은 ‘인공지능 전문가 시스템(expert system)’을 통해 지식 표현이 가능하게 된 것이 큰 요인이 되었다. 또한, 1990년대에 컴퓨팅 성능과 데이터 저장 스토리지가 복잡한 작업을 수행할 수 있을 정도로 발전하면서 인공지능의 겨울은 끝이 났다. 예컨대, 1990년대에 IBM은 세계 체스 챔피언 게리 카스파로프와 대결하기 위해 ‘딥 블루(deep blue)’라는 이름의 컴퓨터를 개발하였다. 당시 딥 블루는 체스의 6단계 이상의 수를 내다보고 초당 3억 3천만 개의 위치를 계산할 수 있었다. 이 시기에는 인공지능에게 특정 분야의 다양한 지식을 학습시켜 해당 분야의 실제 문제를 처리할 수 있도록 하는 데 초점을 맞추었다. 하지만 이러한 인공지능 전문가 시스템이 올바르게 작동하려면, 입력하는 지식을 정확하게 분류하고 구조화해야 하였다. 또한, 전문가 시스템은 미리 입력되지 않은 새로운 문제에 직면하면 해당 문제를 처리할 수 없는 한계가 있었다. 결국 이러한 한계 때문에 1990년대 중반부터 2000년대 초반까지 ‘제2차 인공지능 겨울’이 도래하게 되었다.
다. 제3차 인공지능 붐 (2000년대 중반～현재)
2000년대 중반 ‘심층학습(deep-learning)’의 시대가 도래하면서, 세 번째 인공지능의 붐을 맞이하였다. 특히 2000년 전후로 빅데이터 시대가 열리고 컴퓨터의 성능이 비약적으로 발전하게 되면서, 인공지능은 기계학습과 그보다 더 진보한 심층학습 기술을 통해 전통적으로 인간만 가능했던 영역까지 접근하게 되었다. 2011년 IBM의 왓슨이 퀴즈쇼에서 우승한 것과, 2017년에 구글 딥마인드(Google DeepMind)가 개발한 알파고 제로(AlphaGo Zero)가 그 예시가 될 수 있다.
특히, 알파고는 심층학습 기술의 진보를 보여주는 매우 중요한 사례이다. 2015년 딥마인드는 프로선수들과 바둑 게임을 할 수 있는 소프트웨어인 알파고를 출시하였다. 알파고는 수천 번의 아마추어 및 프로 대국을 통해 학습한 인공 신경망을 사용하여 바둑을 두는 방법을 익혔다. 2016년 알파고는 당시 세계 최고의 바둑 기사인 이세돌 9단에게 4 대 1로 승리하였다. 이후 2017년 기존 알파고를 100전 100승으로 이길 수 있는 프로그램인 알파고 제로가 탄생하였다. 알파고 제로는 과거의 데이터 사용이나 인간의 개입 없이 전적으로 자신의 힘으로 40일 만에 모든 버전의 알파고를 능가하였다. 다시 말해, 기존의 인공지능은 데이터와 인간의 전문 지식을 바탕으로 학습하였다면, 알파고 제로는 외부 지원 없이 스스로 학습하여 결과를 도출하는 정도까지 발전한 것이다.
Ⅱ. 인공지능의 유형과 최근 인공지능 기술
1. 인공지능의 유형
가. 강한 인공지능과 약한 인공지능
인공지능 기술의 발전과 그 잠재적 능력에 대한 논의는 일반적으로 ‘강한 인공지능(Strong AI)’과 ‘약한 인공지능(Weak AI)’으로 구분하여 이루어졌다. 강한 인공지능은 인간처럼 사고하고 학습하는 인공지능을 지칭한다. 존 매카시 교수를 중심으로 한 강한 인공지능 지지자들은 기계가 자율적으로 학습하고 주어진 정보나 규칙을 개선하며 의사결정을 수행할 수 있는 능력을 가진다고 보았다. 이들은 강한 인공지능은 인간의 일반적인 지능과 대등하거나 이를 상회 하는 수준의 지능을 가진다고 주장하였다. 따라서, 이들은 컴퓨터의 발전에 따라 인간의 지능을 능가하거나 그에 준하는 능력을 가진 인공지능이 등장할 것이라는 낙관적인 전망을 제시하였다. 여기에서 더 나아가 ‘초인공지능(Super AI)’의 개념이 제시되었는데, 이는 인간의 개입 없이도 인공지능이 스스로 문제를 해결할 수 있는 고도화된 단계의 인공지능을 지칭한다. 강한 인공지능이 인간과 유사한 영역에서 활용된다면, 초인공지능은 인간의 지시를 무시하거나 거부할 수 있는 능력까지 갖춘 것으로 이해할 수 있다.
강한 인공지능과 약한 인공지능의 구분에 있어 핵심적 기준은 해당 인공지능이 ‘인간의 마음(mind)’을 보유하고 있는지 여부이다. 이러한 구분 기준은 인공지능의 본질과 능력에 대한 철학적ㆍ인지과학적 논쟁의 중심에 위치하였다. ‘기능적 마음 이론(functional theories of mind)’을 지지해 왔던 학자들은 뇌와 신체의 관계가 다양한 측면에서 인공지능의 하드웨어와 소프트웨어 간의 관계와 유사하다고 주장하였다. 반면, 저명한 언어 및 심리 철학자인 존 썰(John Searle) 교수는 ‘약한 인공지능’이라는 개념을 제시하며 이에 대한 비판적 입장을 취하였다. 존 썰 교수는 컴퓨터가 단순히 인간과 유사한 행위를 하거나 모방하는 것만으로는 진정한 인지적 상태를 가졌다고 볼 수 없으며, 특정한 의미론적 내용의 보유가 필수적이라고 주장하였다.
현재의 기술 수준을 고려할 때 오늘날 상용화된 대부분의 인공지능은 약한 인공지능의 범주에 속한다고 볼 수 있겠다. 이들은 특정 작업에서 뛰어난 성능을 보이지만 진정한 의미의 ‘인간의 마음’을 갖추지는 못한 것으로 평가할 수 있기 때문이다.
나. 좁은 인공지능과 넓은 인공지능
인공지능은 또한 ‘좁은 인공지능(Narrow AI)’과 ‘넓은 인공지능(Full AI)’으로 구분할 수 있다. 좁은 인공지능은 특정 분야나 한정된 작업에서 인간 수준 또는 그 이상의 성능을 발휘하는 시스템을 지칭한다. 반면, 넓은 인공지능은 인간의 일반적 지능을 기계에서 재현하는 것을 목표로 하며, 다양한 분야에서 인간과 유사한 학습ㆍ이해ㆍ추론 능력을 갖춘 지능의 형태를 지향한다.
이와 같은 관점에서 넓은 인공지능은 종종 강한 인공지능과 유사한 의미로 사용되며, 인간이 할 수 있는 모든 작업을 수행할 수 있는 인공지능 시스템을 지칭한다. Microsoft는 넓은 인공지능을 추론, 계획, 경험 기반 학습 등 광범위한 지적 능력을 보유하며, 이러한 능력이 인간 수준 또는 그 이상인 시스템으로 정의하였다. 이와 유사하게, 국제 표준 기구인 ISO/IEC도 넓은 인공지능을 다양한 작업뿐만 아니라 인간이 수행할 수 있는 모든 작업을 수행할 수 있는 시스템을 의미한다고 정의하였다. 이러한 관점에서, 넓은 인공지능은 특정 작업의 수행이나 미리 정의된 환경 내에서 작동하는 좁은 인공지능과 대비된다.