한상기  | 클라우드나인

13,464원  | 20210913  | 9791191334296

국내 최초 인공지능의 신뢰 문제에 관한 본격적인 논의와 가이드라인을 담은 책! 인공지능의 윤리와 신뢰의 문제는 미래의 일이 아닌 지금 일어나는 시급한 일이다! 인공지능과 어떻게 공존할 것인가 인공지능의 의사결정 지원을 신뢰할 수 없다면 어떻게 될까? 이 책은 국내 최초로 최근 인공지능 논란의 핵심으로 떠오른 신뢰성 문제를 본격적으로 다루고 있다. 그럼 왜 지금 인공지능의 신뢰성이 문제인가? 인공지능 기술이 일상생활, 기업활동, 사회 시스템에 활용되면서 과거 전문 영역에서 사용하던 차원과는 다른 일들이 일어나기 시작했기 때문이다. 인공지능 자체에 여러 가지 취약점이 있다는 것이 밝혀지면서 해킹 가능성이나 오류 발생의 문제가 사회 구성원 전체에게 미칠 영향이 크다는 것을 알게 된 것이다. 인공지능이 인류에게 유익하게 사용돼야 한다는 것에는 모두 다 동의한다. 그런데 어떻게 그렇게 할 것인가에 대한 논의는 없다. 지금 우리가 인공지능의 신뢰성에 대해 논의해야 하는 이유이다.

한국정보통신기술협회  | 진한엠앤비

16,200원  | 20230706  | 9791129049261

의료 산업 분야에서는 정보통신기술(ICT, Information and Communication Technology)의 진보로 인해 첨단 기술과 융합한 새로운 개념의 의료기기가 등장하고 있다. 특히, 인공지능 기술과의 융합은 진료 기록 또는 의료기기에서 측정된 생체 측정 정보, 의료 영상, 유전 정보 등 환자의 데이터를 통해 학습한 인공지능 모델을 활용하여 의료진의 진료 과정에서 빠른 의사 결정을 보조하거나 신약 개발 기간 단축, 개인 맞춤형 건강관리 서비스를 제공할 수 있는 효과적인 수단으로써 활용이 기대된다. 이러한 의료용 소프트웨어(SaMD, Software as Medical Device), 인공지능을 활용한 진단·치료의 자동화, 디지털 치료 등 새로운 기술의 도입은 기존 의료기기 산업을 규정하던 영역 확장의 필요성을 불러일으켰으며, 미국과 중국 등 주요국은 혁신 제품의 개발을 촉진하는 다양한 지원책을 마련하고 있다. 국내에서도 2019년 「의료기기산업 육성 및 혁신의료기기 지원법」제정을 통한 법적 근거 마련, ‘디지털 헬스케어 규제 자유특구’ 지정 등을 통해 첨단 의료기기 산업이 발전하도록 지원 방안을 마련하고 있다. 지금까지 나온 의료 분야의 인공지능 신뢰성 원칙, 정책, 표준 등은 주로 윤리 또는 프로세스 관점에서 추상적인 항목을 제시하거나, 임상시험, 인허가 관점에서 고려해야 하는 사항을 제시하고 있어 인공지능 시스템을 개발하는 실무 현장에서 활용하기는 어렵다. 특히 중소기업은 인력과 연구 개발 투자 여력이 제한적이어 직접 신뢰성 요구사항을 도출하고 검증체계를 마련하기 어려워 본 개발 안내서는 이러한 현실적인 문제점을 해결하고자 작성되었다. 미국과 유럽 등 선진국과 국제기구가 발표한 권고안, 가이드, 표준, 사례 및 연구 자료 등을 참고하였으며, 주요 항목에 대한 개발 요구사항과 검증항목으로 자율적 점검이 가능할 것이다. 의료 분야 개발자 및 기획자 등 인공지능 제품·서비스 개발 실무자는 본 개발 안내서에 제시된 항목을 참고하여 최소한의 신뢰성을 확보하며, 의료 분야에서 신뢰성을 다룰 때 어떤 부분이 중요한지 이해할 수 있을 것이다. 특히, 개발 과정에서 전문 의료진과 협업이 수행되어야 하는 필요성과 고려 사항도 도움을 얻을 수 있을 것이다. 나아가 본 개발 안내서의 내용을 바탕으로 의료 인공지능 서비스에 적합한 요구사항과 검증방법을 마련함으로써 신뢰성 높은 의료 서비스를 개발할 수 있을 것이다. 본 개발 안내서를 통해 우리나라 의료 인공지능 관련 기업과 기관이 더욱 신뢰성 있는 의료 인공지능 기술 또는 시스템 및 서비스를 확보할 수 있는 기초 자료가 되길 희망한다. ​

한국정보통신기술협회  | 진한엠앤비

13,500원  | 20230706  | 9791129049278

현재 인공지능(AI, Artificial Intelligence) 기술은 다양한 분야에서 활용되고 있다. 인공지능의 활용 분야는 게임처럼 전통적으로 활용되던 분야는 물론, 스피커를 이용한 음성인식 서비스나 개인화된 비서 서비스 등 간단한 분야를 비롯해 검진 및 질병 진단, 자산관리를 비롯한 금융서비스, 자동차나 드론의 자율주행 등 복잡한 분야까지 폭넓게 아우른다. 이처럼 인공지능의 활용 분야가 넓어지고 일상에 점점 많은 영향을 미치면서 인공지능의 신뢰성(trustworthiness) 확보가 중요한 과제로 떠올랐다. 인공지능의 작동 원리나 메커니즘을 파악하기는 어렵고, 데이터 오염이나 편향 등의 문제로 인해 인공지능이 오류를 범할 가능성이 크기 때문이다. 특히 사람의 생명이나 공공안전과 직접 연관된 분야에까지 활용이 확대되면서 신뢰성의 중요성은 더욱더 커지고 있다. 이처럼 인공지능 신뢰성이 전 세계적인 관심사로 부상하면서 국제적으로 다양한 대응 방안이 마련되고 있다. 경제협력개발 기구(OECD, Organization for Economic Cooperation and Development)는 인공지능 신뢰성 확보 권고안인 〈Recommendation of the Council on Artificial Intelligence('19.05)〉를 발표했으며, 유럽위원회(EC, European Commission)는 인공지능의 신뢰성을 실무자가 스스로 검증할 수 있도록 〈The Assessment List For Trustworthy Artificial Intelligence for self assessment('20.07)〉를 공표했다. 국내에서도 이에 발맞춰 사람 중심의 인공지능 실현을 목표로 〈인공지능(AI) 윤리 기준('20.12)〉을 발표했다. 그러나 지금까지 나온 인공지능 신뢰성 원칙, 표준 등은 주로 윤리적 관점에서 추상적인 항목을 제시하고 있어 실무 현장에서 활용하기는 어렵다. 특히 인력과 연구 개발 투자 여력이 제한적인 중소기업은 직접 신뢰성 요구사항을 도출하거나 검증체계를 마련하기 어렵다. 본 안내서는 이러한 현실적인 문제점을 해결하고자 작성되었다. 미국, 유럽 등 주요 선진국과 국제기구들에서 발표한 권고안 및 가이드를 참고하여, 자율적으로 점검이 가능한 15개 개발 요구사항과 67개 검증항목을 제시하고 있다. 개발자나 기획자 등 인공지능 서비스 개발 실무자들은 본 개발 안내서에 제시된 항목을 참고하여 최소한의 신뢰성을 확보하는 한편, 신뢰성을 확보하려면 무엇이 중요한지 이해하는 데 도움이 될 것이다. 나아가 개발 안내서 내용을 바탕으로 서비스에 적합한 요구사항과 검증방법을 마련함으로써 신뢰성 높은 인공지능 서비스를 개발할 수 있을 것이다. 본 개발 안내서를 통해 우리나라 인공지능 관련 기업 및 기관들이 더욱더 성숙한 인공지능 기술을 확보하고, 글로벌 경쟁력을 가질 수 있는 기초자료가 되길 희망한다.

한국정보통신기술협회  | 진한엠앤비

14,400원  | 20230706  | 9791129049254

지금까지 발간된 국내외 공공서비스를 위한 인공지능 신뢰성 가이드는 주로 윤리적 관점에서 추상적인 항목을 제시하고 있어 실무 현장에 활용하는 데는 한계가 있다. 우선 인공지능 서비스를 개발하는 공급자, 특히 공공기관에 납품할 목적으로 인공지능 서비스를 개발하는 중소기업에서는 자체적으로 인력을 확보하고 연구개발을 수행해 신뢰성 확보 요구사항을 도출하여 검증 체계를 마련하는 것이 쉬운 일이 아니다. 반대로 인공지능 서비스를 납품받는 수요자인 공공기관에서는 인공지능의 신뢰성 확보를 하나의 요구사항으로 제시할 수는 있으나 구체적 방안이 없어 제대로 이행되었는지를 판단하기가 힘든 실정이다. 본 안내서는 인공지능 기술의 공공서비스 도입 시에 상술한 현실적인 문제점을 해결하고자 작성되었다. 실용적인 요구사항 및 검증항목 도출을 위해 유럽, 미국, 영국 등 주요 선진국과 국제기구들에서 발표한 권고안 및 가이드를 참고하여 자율적으로 점검 가능한 요구사항 15개와 검증항목 68개를 제시하고 있다. 또한 해당 요구사항 및 검증항목에 대한 타당성 검토를 위해 실제 공공기관에 인공지능 서비스를 납품하는 업체에서 현장 적용을 수행하고, 본 개발 안내서의 타당성을 확보하기 위해 산학연 전문가의 의견을 반영하였다. 개발자 및 기획자, 곧 인공지능 서비스 개발 실무자는 본 개발 안내서에 제시된 항목을 참고하여 공공서비스에 활용되는 인공지능 서비스에 대한 최소한의 신뢰성을 확보할 수 있고, 공공기관에서 인공지능 서비스 운영을 담당하는 실무자는 신뢰성을 확보하려면 무엇을 중요하게 고려해야 하는지를 이해할 수 있을 것이다. 본 개발 안내서가, 우리나라 공공기관에 인공지능 서비스를 제공하고 운영하는 기업 및 기관이 좀 더 성숙한 인공지능 기술을 확보하여 공공·사회 인공지능 서비스 분야에서 글로벌 경쟁력을 갖추는 데 기초 자료로 활용될 수 있기를 희망한다.

한국정보통신기술협회  | 진한엠앤비

16,200원  | 20230706  | 9791129049285

자율주행차란 운전자 또는 승객의 조작 없이 스스로 운행이 가능한 차량을 말한다. 자세히는, 차량에 자율주행을 위한 센서 등 첨단 기술을 적용하여 스스로 주변 환경을 인식하고, 위험을 판단하고 주행 경로를 계획하여 운전자 또는 승객의 조작 없이 안전하게 운행할 수 있게 한 차량을 의미한다. 자율주행차는 인간처럼 주변 상황을 인지할 수 있어야 하며, 인지한 상황에 따라 어떻게 행동할 것인가를 판단하여, 결과적으로 인간보다 더 나은 주행을 할 수 있어야 한다. 따라서 인간의 지능과 생각 체계를 모사한 인공지능은 자율주행 분야에서 선택이 아닌 필수가 되어가고 있다. ​지금까지 나온 자율주행 분야의 인공지능 신뢰성 원칙, 제안 정책, 표준 등은 주로 윤리 또는 프로세스 관점에서 추상적인 항목을 제시하고 있어 실무 현장에서 활용하기는 어렵다. 특히 인력과 연구 개발 투자 여력이 제한적인 중소기업은 직접 신뢰성 요구사항을 도출하거나 검증체계를 마련하기 어려워 이러한 현실적인 문제점을 해결하고자 본 개발 안내서가 작성되었다. 미국과 유럽 등 선진국과 국제기구들에서 발표한 권고안, 가이드, 표준, 사례 및 연구자료 등을 참고 하였으며 주요 항목에 대한 개발 요구사항과 검증항목으로 자율적 점검이 가능할 것이다. 자율주행 분야 개발자나 기획자 등 인공지능 서비스 개발 실무자는 본 개발 안내서에 제시된 항목을 참고하여 최소한의 신뢰성을 확보하는 한편, 신뢰성을 확보하려면 무엇이 중요한지 이해하는 데 도움이 될 것이다. 나아가 본 개발 안내서의 내용을 바탕으로 자율주행 서비스에 적합한 요구사항과 검증 방법을 마련함으로써 신뢰성 높은 자율주행 서비스를 개발 할 수 있을 것이다. 본 개발 안내서를 통해 우리나라 자율주행 관련 기업과 기관들이 더욱더 성숙한 인공지능 기술을 확보하고, 글로벌 경쟁력을 가질 수 있는 기초자료가 되길 희망한다.