EU 인공지능(AI)

본서의 개요 / 10

제1부 서설과 AI의 국제적 상황 / 19

제1장 본서의 동기 및 목표 / 20
제2장 AI에 대하여 / 24
제3장 AI 경쟁적 글로벌 환경에서의 EU / 33
제4장 EU의 AI / 51
제5장 중국의 AI 생태계 / 62

제2부 다차원적 관점 / 73

제6장 윤리적ㆍ사회적 관점 / 74
제7장 법적 관점 / 85
제8장 교육적 관점 / 97
제9장 경제적 관점 / 105
제10장 사이버 보안의 관점 / 120
제11장 컴퓨터 처리 및 에너지 관점 / 130
제12장 데이터 관점 / 139
제13장 사회적 복원력 관점 / 158
제14장 요약 및 결론 / 167

참고문헌 / 169
BOX 목록 / 188
그림 목록 / 189

본서의 개요

본서는 EU 차원의 논의를 알리기 위해 유럽위원회 공동연구센터의 독자적인 연구ㆍ분석에 기초한 인공지능(AI)에 관한 EU의 견해를 제시한다.

우리는 먼저 AI를 그 환경을 관찰하고 학습할 수 있으며, 얻은 지식과 경험을 바탕으로 지능적인 행동을 취하거나 결정을 제안할 수 있는 기계나 알고리즘으로 총칭한다. 의사결정 과정의 자율성과 다른 기계와 인간과의 상호작용은 또 다른 차원의 고려해야 할 문제이다.

비록 AI의 방법론적인 발전 중 많은 부분이 50년 전 이상으로 거슬러 올라가지만, 우리가 지금 일반적으로는 AI에 대해, 특히 기계학습(ML)에 대해 크게 주목하는 이유는 최근 컴퓨팅 성능, 데이터의 가용성 그리고 새로운 알고리즘의 발전으로 인해 지난 6-7년 동안 커다란 돌파구가 마련되었기 때문이다. 다수의 AI/ML 애플리케이션은 기계번역에서부터 이미지 인식 및 음악 생성에 이르기까지 우리의 일상생활에 들어오기 시작했고, 산업, 정부 및 상거래에서 점점 더 많이 이용되고 있다(제2장 참조).

유비쿼터스 센서 네트워크인 IoT의 발전은 AI의 감지능력, 알고리즘을 트레이닝할 데이터의 양, 그리고 결정과 행동을 통해 사회에 미치는 영향력을 기하급수적으로 증가시킬 것이다. 때문에, 현재는 이러한 과정의 시작에 불과할 가능성이 높다.

기회는 많으며, 경우에 따라서는 아직 그 기회를 예견하지 못하기도 한다. 또한 많은 과제들이 있다. 이 가운데에서도, 현재의 ML 알고리즘은 블랙박스의 특징 중 일부를 보여준다. 즉, 우리는 입력과 출력에 액세스하지만 그 사이에 무슨 일이 일어나는지, 그리고 결정과 행동을 포함한 특정 출력이 어떻게 도출되는지를 완전히 이해하지는 못한다. 그렇기 때문에 이들의 이론을 이해하고 설명할 수 있고 책임감 있는 알고리즘을 개발하기 위한 보다 큰 노력이 필요하다. 우리는 또한 AI의 성능뿐만 아니라 품질을 평가하고 이 파괴적인 기술에 대한 신뢰를 구축할 수 있는 강력한 평가체계가 필요하다(제2장, 제6장, 제10장).

글로벌 및 유럽 AI의 상황을 개괄해 보면, 미국, 유럽 및 중국의 3대 주요 리더들이 AI에 대한 치열한 경쟁을 전 세계적으로 벌이고 있음을 알 수 있다(제3장). 각 지역은 연구 및 산업을 포함한 AI 분야의 모든 핵심 플레이어의 약 4분의 1을 보유하고 있지만, 각기 서로 다른 플레이어의 조합을 가지고 있다. 유럽은 연구 및 비연구 플레이어의 수가 균형을 이루고 있는 반면, 미국은 산업/기업 플레이어의 수가 연구 플레이어의 수보다 약 3배 많으며, 중국은 연구 플레이어의 수가 산업 플레이어의 수보다 약 6배 더 많다. 미국 기업계의 강점은 스타트업(전 세계의 거의 절반) 및 벤처캐피털(전 세계의 3분의 1 이상)의 건수에서 우위를 차지하고 있다는 점이다. 반면 중국은 연구를 특허로 전환하기 위해 크게 노력하고 있으며, 전 세계의 약 60%를 점유한다. 또한 중국은 2030년까지 AI 세계 1위를 목표로 정부정책, 산업용 애플리케이션 및 연구를 포함하여 AI에 대한 강력한 통합적 접근방식을 취해 왔다. 이는 야심적이면서 달성 가능한 목표이다(제5장).

유럽은 현재 AI 연구 생산의 질에서 좋은 위치를 차지하고 있으며, 톱 과학저널에서 발행된 전체 AI 관련 논문의 30% 이상으로, 미국(33%)에 근소하게 뒤떨어져 있으며, 중국보다 상당히 앞서 있다. 유럽이 구축할 강점을 가진 핵심영역은 자율주행 및 커넥티드 자동차와 로봇이다.

우리는 EC뿐만 아니라 다수의 EU 회원국들도 유럽사회를 확실히 이롭게 하고 조약에 포함된 유럽적 가치를 유지하게 하는 합의된 윤리적 체계 및 적용의 필요성에 대한 공통적인 관심을 가지고, AI 발전을 지도하기 위한 전략과 프로그램을 개발하고 있다는 점에 주목한다(제4장). 유럽위원회가 2018년에 설립한 고위전문가그룹(High-Level Expert Group)은 이러한 가치와 연계된 후속 개발을 위한 체계를 구체화하고 있다. 또한 회원국 및 EU 레벨에서 정책 문서들이 공공부문, 산업 그리고 일반 대중과 같은 모든 이해관계자들 사이에서 데이터를 보다 잘 공유할 필요성을 크게 강조하면서, 데이터가 AI 개발에 중요하다는 높은 수준의 인식에 주목한다. 하지만 본서의 제12장에서 분석한 바와 같이, 올바른 방법을 찾는 것은 어렵다.

AI의 글로벌 및 EU 상황을 개관 및 분석한 후, 여러 관점에서 AI에 대해 논의하여 어느 정도 깊이를 더하고 시너지를 모색하도록 한다.

본서의 여러 곳에서 강조한 바와 같이, AI에 대한 유럽 방식의 핵심적인 특징은 강력한 윤리적 체계가 되어야 한다는 점이다. 이 원칙에 대해서는 공감대가 형성되어 있으며, AI 발전의 틀이 될 윤리적 가이드라인을 개발하기 위한 회원국 및 EU 차원의 많은 시책에 대해 기술한다(제4장). 이러한 가이드라인이 고려해야 할 주요 관점을 검토하고, 개인 및 사회 수준에서 AI의 잠재적 함의를 강조한다. AI에 대한 신뢰를 쌓고 유지하기 위해서는 AI로 인도되고 내재되는 가치들을 토론하기 위한 시민사회의 비판적 참여, 이러한 가치들을 전략과 가이드라인으로 변환하기 위한 서로 다른 포럼에서의 공공토론, 그리고 이러한 가치들과 가이드라인을 AI시스템으로 인코딩하고, 이것들이 디자인에 의한 윤리적(ethical-by-design)이 되는 책임감 있는 디자인 실무를 포함하는 다원적인 접근방식이 필요하다고 결론 내린다(제6장).

특히 기본권, 데이터 소유권 및 지식재산권과 관련하여 AI에 대한 EU 법체계를 검토할 때, 개인 및 기업의 권리를 보호하는 것과 개방성 및 투명성을 극대화하기 위한 노력으로 혁신을 장려하는 것 사이의 긴장관계를 주목할 필요가 있다. 그러나 유럽이 윤리적으로 견고하고 개인, 기업 및 사회의 권리를 전반적으로 보호하는 독특한 형태의 AI를 확립할 수 있는 위치에 있다고 결론 내린다. 예를 들어, 준비 중에는 많은 사람들이 반대한 일반데이터보호규칙(GDPR)은 현재 유럽의 자산으로 인식되고 있으며, 유럽 외에서도 유사한 접근방식을 고무하고 있다. 이 개념을 확장하여, 우리는 EU 법규제 관점의 높은 기준을 유럽인과 그 후손들이 장벽이 아니라 구축해야 할 자산인 환경상의 품질기준과 비슷하게 보아야 한다(제7장).

교육적 관점에서, 우리는 AI가 기술, 학습 및 가르침의 부족에 대해 잠재적으로 긍정적인 영향을 미친다고 본다(제8장). 이 검토에서 세 가지 중요한 점은 다음과 같다. 첫째, AI와의 상호작용이 성인들과, 그리고 더욱 중요한 것은 어린이들 양자의 인지능력에 어떻게 영향을 미치는지를 보다 잘 이해할 필요가 있다는 점이다. 둘째, 현재의 필요와 관행을 넘어 생각하고, AI가 교육 및 업무와, 그리고 인간의 발달과의 관계를 어떻게 변화시킬지 고려할 필요가 있다는 점이다. 셋째, 교육, 특히 프라이버시 및 윤리에서 AI와 관련된 위험성을 강조한다. 이 장에서는 AI와 관련된 연구주제의 학술적 제안의 초기 개요와 지리적 분포를 소개한다. 이는 AI가 가져올 과제에 대해, 가장 취약한 지역과 그리고 사회의 준비를 시작하기 위한 가능한 전략에 관한 제12장 및 제13장의 논의와 관련이 있다.

AI가 노동시장 및 불평등에 미칠 수 있는 잠재적 영향으로 인해 미디어, 연구 및 공공토론에서는 우려를 표현하고 있다. 우리는 업무, 성장 및 불평등과 관련하여 긍정적 및 부정적인 영향 모두에 대해 현재까지 이용할 수 있는 문헌과 증거를 분석한다. 업무와 관련하여, 우리는 이론도 증거도 현재 매우 결정적인 것은 아니라고 본다. AI는 인간의 활동을 보완하고 강화하며, 증가하는 일상적인 업무를 대체할 수 있다. 자동화의 위험이 높은 일자리의 비율을 측정하는 연구들은 업무와 직업이 정의되는 세분화의 정의 및 수준에 따라 그 결과가 매우 다양하다는 것을 보여준다(제9장).

또 다른 불확실성의 영역은 AI가 경제성장을 촉진시킬 수 있는 잠재력이 어느 정도인가 하는 점이다. 범용기술로 볼 때, AI는 많은 일자리와 산업분야로 확산되어 생산성을 높이고 강한 플러스 성장을 할 수 있다. ML이 데이터로부터 새로운 통찰력을 창출하는 범위에서, 새로운 아이디어의 생산과 혁신 그 자체에도 기여할 수 있다. 경제성장 모델은 다양한 시나리오를 탐구하기 시작했지만, 어느 하나에 유리한 경험적 증거는 아직 없다.

불평등에 관한 한, AI가 많은 채널을 통해 소득분배에 불리하게 영향을 미칠 수 있다고 본다. 가장 논란이 되는 것은 일자리 양극화(즉, 한편으로 높은 수준의 고임금 일자리 수요의 증가와, 다른 한편으로 낮은 수준의 저임금 일자리 수요의 증가), 저숙련층에서의 일자리의 질 저하, 그리고 또한 저숙련 노동자들이 보다 높은 자격과 숙련기술을 가진 노동자들보다 실직기간이 더 길며, 변화에 적응하고 새로운 일자리를 찾는데 더 큰 어려움을 겪게 된다는 것이다. 노동시장에 미칠 수 있는 이러한 부정적인 영향은 지리적 발자국(geographical footprint)을 가지고 있는데, 이미 실업률과 낮은 수준의 기술력 측면에서 더 큰 어려움을 겪고 있는 지역 및 하부 지역이 아무런 조치가 취해지지 않는다면 가장 고통 받는 지역이 될 가능성을 높이기 때문이다. 우리는 향후 몇 년 동안 AI가 경제에 미치는 여러 가지 영향을 면밀히 관찰하고 확실히 연구할 필요가 있다. 또한 우리는 유럽 전역의 가장 취약한 지역에 대한 복원력을 구축하기 위해 보다 적극적인 전략을 고려해야 한다. 제12장 및 제13장에서 이를 다시 다루도록 한다.

사이버 보안에 관한 한, AI는 양날의 칼이다. 즉, AI는 디바이스, 시스템 및 애플리케이션의 보안을 높이는 데에는 큰 도움이 될 수 있지만, 시스템 및 네트워크를 공격하려는 사람들에게도 힘을 줄 수 있어서 사이버 공격용 무기고의 개량형 도구가 될 수 있다. 게다가 악의적 행위(malicious action)에 대한 AI의 견고성 자체도 문제가 되고 있어, AI가 갈수록 보급되는 사이버 물리 시스템의 보안에 가장 즉각적인 위협이 되고 있다. AI의 특정 취약성과 관련된 공격을 이해하고, AI의 견고성과 해석가능성 및 설계에 의한 안전성(safety by design)을 높이는 방법에 주목하는 연구라인들이 있다. 우리는 알고리즘의 트레이닝 및 시험을 위한 대규모ㆍ고품질의 데이터 집합의 공유와 알고리즘을 평가하는 합의된 체계도 필요하다(제10장).

AI 개발에서 보고 있는 커다란 진전은 컴퓨팅 및 데이터 가용성에서의 급속한 진보와 관련이 있다고 본서의 여러 곳에서 논한다. 컴퓨팅과 관련하여서는, 사물인터넷과 5G 네트워크 시대에 데이터 센터의 에너지 소비와 데이터 전송의 증가가 지속가능하지 않게 될 것이라는 인식 때문에 패러다임 전환을 보이기 시작했다. 데이터 트래픽과 처리 부하는 수십억 개의 추가 디바이스가 인터넷에 연결되고 환경을 감지하며 지속적으로 데이터를 송수신할 때 전례 없는 일이 될 가능성이 높다. 이를 염두에 두고, 휴대폰과 태블릿을 포함하여 데이터를 수집하고 표시하는 센서들의 가까이에서 처리가 이루어지는 에지 및 포그 컴퓨팅의 보다 분산된 체계로 지향하는 추세가 일어나고 있다. 산업은 이러한 방향으로 움직이기 시작했지만 유럽 투자, 규제체계 및 표준이 이들 발전을 형성하여 유럽이 이익을 얻을 수 있는 기회의 창구가 여전히 있다(제11장).

디지털 데이터와 관련하여, 규모의 경제, 범위의 경제 및 비경합성을 포함한 주요 경제적 특성을 검토한다. 앞 두 가지는 인터넷 경제에서 소수 행위자의 손에 의한 데이터 집중의 증가와 이에 따른 정보 및 힘의 증가를 지적하는 반면, 비경합성은 사회가 가장 이익을 많이 얻도록 데이터 액세스를 개방하는 것과 데이터 보유자가 가장 이익을 많이 얻도록 액세스를 제한하는 것 사이에 잠재적인 긴장관계를 유발한다. 이러한 긴장관계는 전술한 바와 같이 법체계에 반영되어 있고, 개방적이고 글로벌화된 환경에서 데이터 전략을 개발하는 것을 특별한 과제로 삼고 있다. 그러나 성공적인 인터넷 기업의 교훈을 유럽 공공부문에 적용하고 공공 플랫폼을 기반으로 생태계를 개발하면, 의미론적으로 잘 구조화되고 라벨이 붙어 있는 대규모 공유 데이터 풀을 만들 수 있고, 다른 영역에서 새로운 AI 애플리케이션을 활성화할 수 있다고 주장한다. 이러한 방법으로 데이터 액세스를 개방하고, 시장을 발전시키며, 대중에게 서비스를 제공하고, 동시에 데이터 서민들(data commons)을 부유하게 할 수 있다(제12장).

예방, 기대, 준비, 그리고 또한 충격의 영향으로부터 회복하기 위한 적응과 변화라는 여러 국면들을 다루는 AI에 대한 유럽의 접근방식을 형성하는데 유용한 복원력 개념에 초점을 맞추어 AI에 대한 다중 관점의 분석을 마무리하도록 한다. 이러한 관점에서 볼 때, AI는 유럽의 성장 및 변화의 엔진이 될 뿐만 아니라, 유럽의 다양성 및 문화의 풍요로움을 전적으로 활용하면서, 주변지역의 사회적, 경제적 발전을 촉진할 수 있는 기회가 될 수도 있다(제13장).

우리는 디지털 혁신 허브의 네트워크를 중심으로 한 접근 가능한 방법의 몇 가지 요소를 제시하였다. 유럽에는 이미 수백 개의 허브가 있으며, 각 지역 당 1개의 허브를 목표로 하여 빠르게 확장되고 있다. AI에 관한 커뮤니케이션(Communication on AI, EC, 2018a)은 계획한 AI 온 디맨드 플랫폼(AI-on-demand-platform)과 결합하여 공공행정 및 기업, 특히 중소기업에 대한 기술 및 노하우 액세스를 촉진하기 위해 AI에 관한 이들 허브의 전문화된 하위 허브를 예상하고 있다. 우리는 이러한 허브를 공공행정, 지방기업, 교육 및 훈련 시설, 시민사회로 구성된 지역 생태계의 중심에 둘 것을 제안한다.

이들 생태계는 주요 행위자 간에 지역 공유 데이터 풀을 생성하여 지역 데이터를 기반으로 한 알고리즘 및 솔루션을 개발하여 지역 요구를 충족시키기 위해 현지에서 개발/개량한 AI 기술을 활용할 수 있다. 유럽 각 지역은 환경, 경제, 인구통계, 건강 등과 관련된 특정하게 혼합된 각각의 우선순위의 조합을 가지고 있다. 따라서, 이 접근방식은 지역의 창의성, 문화 및 지역 지식을 활용하여 사회적 관련성과 사람 중심의 AI를 만들어, 다양하고 포괄적인 AI 시스템을 개발할 수 있는 훌륭한 기회를 제공할 수 있다(제12장 및 제13장).

이런 다양한 학제적 분석으로부터, 이하의 결론을 얻는다.

현재는 많은 디지털 기술의 융합으로 인해 경제 및 사회가 급속히 변모하는 초기단계에 있다. AI는 이러한 변화의 중심에 있으며, 우리의 삶을 향상시킬 수 있는 커다란 기회를 제공한다.

미국, 중국 및 유럽 사이에 AI 글로벌 경쟁이 치열하다. 현재는 미국이 선두에 있지만, 중국이 빠르게 따라잡고 있으며 2030년까지 선두에 서는 것을 목표로 하고 있다. EU에게는 경주에서 이기느냐 지느냐의 문제가 아니라 AI가 제공하는 기회를 인간 중심적이고, 윤리적이며, 안전하고, 우리의 핵심 가치에 맞는 방식으로 포용하는 방법을 찾느냐의 문제인 것이다.

EU 회원국들과 유럽위원회는 함께 할 때만 성공할 수 있다는 것을 인식하면서, 회원국 및 EU 통합전략을 개발하고 있다. EU는 우수한 연구, 자동차 및 로봇 공학과 같은 일부 산업분야의 리더십, 확고한 법규제 체계, 그리고 지역 및 하부지역 레벨 모두에서의 매우 풍부한 문화적 다양성을 포함한 강점 영역을 구축할 수 있다.

AI는 견고한 컴퓨팅 인프라와 양질의 데이터로 뒷받침되어야만 활성화 될 수 있다고 인식하는 것이 일반적이다.

? 컴퓨팅과 관련해서는 중앙집중식 설비 외에 네트워크 에지(edges)를 지향해 분산되는 새로운 컴퓨팅 패러다임에 유럽이 투자할 수 있는 기회의 창구를 확인했다. 이는 향후 5G 및 IoT의 구축도 지원한다.
? 데이터와 관련해서는, 단지 데이터를 방송하기보다 성공적인 인터넷회사로부터 배우고, 데이터 액세스를 개방하며 사용자와의 상호작용을 발전시키는 것을 선호한다. 이러한 방법으로 데이터를 풍부하게 하는 공공행정, 기업 및 시민사회의 생태계를 개발하여 유럽의 요구에 대응하는 AI 애플리케이션에 적합하게 할 수 있다.

우리는 AI가 제공하는 기회를 수용하여야 하지만 무비판적으로 하여서는 안 된다. 현재의 ML의 블랙박스 특성은 전문가들조차 잘 알 수 없다. AI 시스템은 현재 좁고 명확한 과제에 한정되어 있으며, 그 기술은 데이터에 존재하는 잘 알려진 편향효과(bias effect)와 같은 인간 창조자의 결함을 계승하고 있다. AI의 단점에 도전해 강력한 평가전략, 투명하고 신뢰할 수 있는 시스템, 좋은 인간－AI 상호작용을 지향하여 노력해야 한다.

이 파괴적인 기술에 대한 신뢰를 구축하기 위해서는 윤리적이고 설계에 의한 안전(secure- by-design) 알고리즘이 중요하지만, 또한 AI에 내재된 가치와 향후 개발방향에 대한 시민사회의 폭넓은 참여가 필요하다.

이러한 사회적 참여는 지역부터 회원국 및 EU까지 모든 레벨에서 기관, 산업 및 시민사회에 걸쳐 복원력을 강화하기 위한 노력의 일부가 되어야 한다. 기술, 컴퓨팅, 데이터 및 애플리케이션의 지역 생태계를 개발하면 지역사회의 참여를 촉진하고, 그 요구에 대응하며, 지역의 창의성 및 지식을 활용하고, 인간중심적이고 사회적으로 추진되는 AI를 구축할 수 있다.

AI가 우리의 사고방식, 의사결정, 상호 연관성, 그리고 일자리에 어떠한 영향을 미칠지에 대해 아는 것이 아직도 거의 없다. 이러한 불확실성은 우려의 근원이 될 수 있지만 또한 기회의 표시이기도 하다. 미래는 아직 기술되지 않았다. 우리는 어떤 미래를 갖고 싶은지에 대한 우리의 집단적 비전을 바탕으로 이를 형성할 수 있다. 하지만 우리는 함께 행동하고 빠르게 행동해야 한다.