AI와 윤리 이슈

책 이미지

eBook 미리보기

책 정보

· 제목 : AI와 윤리 이슈
· 분류 : 국내도서 > 컴퓨터/모바일 > 인공지능
· ISBN : 9791173076565
· 쪽수 : 192쪽
· 출판일 : 2025-05-09

책 소개

초지능 시대를 앞두고 우리가 반드시 고민해야 할 인공지능의 윤리 문제를 깊이 있게 다룬다. 기술 발전의 그늘 속에서 발생하는 데이터 편향, 프라이버시 침해, 책임 불명확성, 딥페이크 등 다양한 이슈를 조망하며, 인간 존엄성과 공공선이라는 기준 위에서 AI의 방향을 제시한다.

인공지능 시대 윤리 이슈

01 인공지능 시대를 만나자
02 인공지능과 인권
03 인공지능 기술의 주요 특징과 기술 진보
04 인공지능 산업 경제 발전
05 인공지능과 할루시네이션
06 인공지능과 딥페이크
07 편향성과 차별성
08 알고리즘의 투명성
09 개인 정보 침해와 존중
10 보안

저자소개

김용환 (지은이) 정보 더보기

경희대학교 일반대학원 경제학 박사를 취득하고 한국 과학 기술 연구원(KIST)에서 연구 정책 실장과 한러 과학 기술 협력 센터 소장 등으로 활동했다. 특히 2000년 한국 기술 벤처 재단(구 홍릉 벤처 밸리)을 설립하고 사무총장으로 파견 근무했다. 차의과학대학교 데이터 경영학과 교수, 산학 협력단 단장, 연구처 처장, 평생교육원 원장, 차의과학대학교 빅 데이터?인공 지능 연구소 소장 등으로 활동했다. 또한 산 · 학 · 연 · 관에서 다양하게 활동했다. 서울시 산하 DMC산학 진흥 재단 상임 이사, 국무 조정실 정책 평가 위원회 전문 위원, 대통령 산하 국가 균형 발전 위원회 평가 위원, 대통령 산하 수도권 광역 경제권 발전 위원회 광역 위원, 서울특별시 디지털 미디어 시티(DMC) 실무 위원회 위원, 서울시 산학연 정책 위원회 위원, 서울시 희망 경제 위원회 산업 경제 분과 위원장, 사단 법인 국제 지역학회 회장, 사단 법인 소비자와 함께 공유 경제 위원장, 사단 법인 서울 평양학회 회장, 사단 법인 대학 연구 윤리 협의회 부회장 · 학술 위원장, 사단 법인 경기도 산학 협력단장 협의회 이사, 재단 법인 한국 과학 기술 지주 사외 이사, 연구 재단 PM 연구윤리 위원, CCC 사외 이사, 한국 컨설팅 산업 협회 운영 위원, KIST연우회 이사, KIST 창업 심의 위원 및 초격차 양자 프로젝트 운영 위원장, 한수원KNP 기업 지원 위원회 위원장 등으로 활동하고 있다. 주요 연구 학술 활동으로 『헬스케어 경제학』, 『AI 경영론』, 『양자 경제와 AI 산업혁신』, 『AI(인공지능)시대의 데이터경제학』, 『빅데이터 분석』, 『포스트 휴먼과 융합』, 『기술혁신』, 『홍릉벤처밸리』, 『동북아 시대의 코리아벤처밸리』, 『기술혁신의 산업경제발전론』, 『연구윤리포럼』, 『연구부정 의심행위 조사 · 검정 보고서 작성 매뉴얼』 등의 단행본 및 보고서 100여 권과 “A Study on the Trend of Employment Effect and Employment Policy in the Digital Bio-healthcare Industry”(2021)를 비롯한 200여 건 이상의 논문 등 발표 자료가 있다. 현재 4차 산업 혁명과 AI 경영, 디지털 경제와 디지털 트렌드 분석, 디지털 기업 사례 분석과 비즈니스 모델, 빅 데이터와 데이터 비즈니스 혁신, 디지털 헬스케어와 AI 헬스케어 경영, 양자 AI와 시장 모델, 국내외 주요 혁신 기업 컨설팅, 특히 중소기업의 해외 시장 진출과 공동 R&D 기획 및 협력, 창업과 기술 사업화 및 글로벌 기술 협력, 연구 윤리 및 AI 윤리 등에 집중해 연구 중이다.

펼치기

김용환의 다른 책 >

임희정 (지은이) 정보 더보기

유타대학교 경제학 박사를 취득하고 현대 경제 연구원(HRI)에서 경제 동향 실장과 연구 위원 등으로 활동했다. 또한 RehabCare Group Inc.(USA)의 Business Consultant, 기술 경제 경영 연구원 연구 위원, 한국 과학 기술원 대소과학 기술 협력 센터 연구 조원 등으로 활동했다. 현재는 경기도 일자리 재단 일자리 연구 센터 선임 연구 위원으로 재직 중이며, 일자리 지원 팀장, 중장년 일자리 센터장, 정책 연구 팀장 등으로 활동하고 있다. 주요 연구 학술 활동으로 『AI 경영론』, 『AI(인공지능) 시대의 데이터 경제학』, 『빅데이터 분석』, 『Measuring Productivity in Frontier and Non-frontier model』, “디지털 전환 시대의 미래 일자리 분석”, “경기도 및 시 · 군 일자리센터 거버넌스 효율성 제고 방안”, “경기도 중소기업 청년근로자 지원 정책 도입방안 기초연구”, “경기도 청년층 일자리 정책 개선방안 연구”, “국내 지식기반 서비스업의 특징과 과제”, “국내 서비스업 수급 현황과 시사점”, “국내 적자가구의 가계수지 특징과 시사점” 등의 단행본 및 보고서가 있다. 현재 디지털 헬스케어와 AI 헬스케어 경영, 인구 구조 변화와 일자리 창출 방안, K-Culture 확산과 지역 경제 활성화 방안 등에 집중해 연구 중이다.

펼치기

임희정의 다른 책 >

책속에서

AI 윤리에 대한 다양한 정의와 개념 및 이슈는 다음과 같다. 첫째, AI 시스템의 행동에 대한 책임이 누구에게 있는지 명확히 한다. 예를 들어, 자율 주행 차가 사고를 일으켰을 때, 제조사, 소프트웨어 개발자, 혹은 차량 소유자 중 누가 책임을 져야 하는가를 명확히 해야 한다. 둘째, AI 시스템이 어떻게 결정을 내리는지, 어떤 데이터를 사용하는지, 그 과정이 어떤지에 대해 명확히 공개한다. 이는 사용자들이 AI의 작동 원리를 이해하고 신뢰할 수 있게 하기 위함이다. 셋째, AI 시스템이 편견 없이 작동하도록 보장한다. 인종, 성별, 연령, 세대, 지역, 국가, 종교 등에 따른 차별을 방지하고, 데이터 수집 과정에서의 편향을 최소화하는 것을 포함해야 한다. 넷째, AI 시스템이 개인의 사생활을 침해하지 않도록 해야 한다. 데이터를 수집하고 사용하는 과정에서 개인 정보를 보호하는 것을 의미한다. 다섯째, AI 시스템이 물리적, 정신적, 재정적 위험 및 AI 불평등 등을 초래하지 않도록 보장해야 한다. AI의 오작동이나 악용으로 인한 피해를 방지하기 위한 것이다. 여섯째, AI 시스템이 일관되게 예상한 대로 작동하는지 확인할 수 있어야 한다. 인공지능 시스템의 안정성과 예측 가능성을 보장하는 것을 의미한다. 일곱째, AI 시스템이 인간의 자율성을 존중하도록 보장해야 한다. 인간이 AI의 결정을 따르도록 강제하지 않고, 중요한 결정은 항상 인간이 내릴 수 있도록 하는 것을 포함해야 한다.
－01_“인공지능 시대를 만나자” 중에서

이러한 AGI는 정치·경제·사회·과학 기술·국제 관계 등에 다양한 영향이 발생하게 된다. 예를 들면 경제적인 측면에서 AGI는 광범위한 작업을 자동화해 노동력과 경제 구조에 중대한 변화를 초래할 수 있다. 과학 및 기술 발전 측면에서도 AGI는 다양한 분야의 연구와 개발을 가속화해 의학, 기후 과학 등에서 획기적인 발전을 이끌 수 있다. AGI의 개발 및 배포는 제어, 인간 가치와의 정렬, 프라이버시 및 보안과 같은 중요한 윤리적 문제를 제기한다. 세계적 권력 역학 변화 측면에서, AGI를 개발한 국가나 조직이 상당한 전략적 이점을 가질 수 있어 글로벌 권력 역학에 변화를 초래할 수 있다. 미국에서 인공지능이 인류를 멸종시킬 수준의 위협이 될 수 있다는 보고서가 나왔다. 이 보고서는 AI가 무기화하고 통제력을 상실한다면 세계 안보 위험이 커지므로 미 정부의 개입이 빨리 이뤄져야 한다고 강조했다.
－03_“인공지능 기술의 주요 특징과 기술 진보” 중에서

또한 2024년 노벨 화학상 수상에 기여한 구글 딥마인드의 ‘알파폴드’, 베이커 교수 팀의 ‘로제타폴드’나 ‘프로틴 MPNN’ 등 단백질 설계 AI도 악용될 가능성이 있다. 연구자가 새로운 단백질을 설계하고 만들려면 수십 년이 걸리지만, AI는 수 분 안에 만들어 낸다. 그 결과 특정 분자에 결합하는 단백질을 설계하면 신약이나 항바이러스제를 만들 수도 있지만, 반대로 인류를 위협하는 생화학 무기가 탄생할 위험도 있다. 글로벌 IT 컨설팅 업체 가트너(Gartner)는 딥페이크로 인해 2026년에는 기업의 30%가 신원 확인 및 생체 인증 설루션을 단독으로 사용할 수 없을 것이라 예측하기도 했다. 딥페이크를 통한 생체 인증이 가능해져 계정 탈취 등의 범죄가 발생할 수 있다는 것으로, 딥페이크는 다양하게 정치·경제·사회·문화·기술적 이슈로 주목받고 있다.
－06_“인공지능과 딥페이크” 중에서