Thampi, Ajay  | 에이콘출판

31,500원  | 20240430  | 9791161758411

AI 기술이 발전하고 활용 사례가 늘어남에 따라 모델이 한 예측의 안전성과 신뢰성을 확보하기 위해 왜 그런 예측에 도달했는지, 또 어떻게 하면 결과가 달라졌을지 설명을 해야 할 상황도 늘어나고 있다. 머신러닝 모델에 최신 해석 기술을 적용해 공정하고 설명 가능한 AI 시스템을 구축하는 데 도움을 주고자 하는 책이다. 해석 가능성에 대한 얘기는 많지만, 실무에 필요한 기술을 설명하거나 실용적인 지침을 제공하는 자료는 거의 없다. 이 책은 그 격차를 해소하고자 한다.

Denis Rothman  | DK로드북스

25,760원  | 20210110  | 9791196965662

Explaining Artificial Intelligence with Python 알고리즘의 설명 가능성은 최초로 1940년대에 복잡한 기계들로 시작되었으며, 그 첫 번째는 튜링머신(Turing machine)이었다. 앨런 튜링(Alan Turing)은 자신의 기계의 지능이 암호화 문제를 어떻게 풀었는지 설명하는데 어려움을 겪었다. 기계가 계산을 하고 결정을 내릴 수 있게 된 이후로, 설명가능성은 사용자 인터페이스, 차트, 비즈니스 인텔리전스(business intelligence) 및 기타 도구들을 통해 모든 구현 과정의 일부분으로서 구현되어 왔다. 그러나 규칙 기반 전문가 시스템, 머신러닝 알고리즘 및 딥러닝과 같은 인공지능(AI)의 기하 급수적인 발전으로, 역사상 가장 복잡한 알고리즘이 등장하면서, AI를 설명하는 것에 대한 어려움은 AI의 발전과 함께 더 커져가고 있다. AI가 모든 분야로 확장됨에 따라, 결과가 부정확했을 때, 그 이유에 대한 설명을 제공하는 것이 중요해졌다. 또한 정확한 결과를 얻었을 때도, 사용자가 머신러닝 알고리즘에 대해 신뢰하도록 설명하는 것이 필요하다. 경우에 따라 AI는 명확하고 빠른 설명이 필요한, 생사를 가르는 상황에 직면할 수 있다. 예를 들어 이번 단원에서는 자신도 모르는 사이에 웨스트 나일 바이러스(West Nile virus)에 감염된 환자에 대한 조기 진단이 필요한 사례를 알아보게 될 것이다. 설명가능한 AI(explainable artificial intelligence) 또는 인공지능 설명가능성(artificial intelligence explainability)이라는 용어는 설명하는 과정을 말하는 것이다. 설명가능한 AI를 XAI라고 하기도 한다. 이번 단원의 목표는 XAI의 핵심이 되는 특징에 대해 이해하고 이해한 것을 파이썬으로 적용해 보는 것이다. 먼저 설명가능한 AI(XAI)와 설명을 구현할 때 직면하게 될 문제들에 대해 정의할 것이다. 각각의 요구에 맞게 서로 다른 AI 설명이 필요하다. 예를 들어 AI 전문가는 최종 사용자와는 다른 관점의 설명을 기대할 것이다. 다음으로 미국 일리노이 주에 있는 시카고에서 발생한 웨스트 나일 바이러스(West Nile virus) 전파에 대해, AI와 XAI가 중요한 의료 진단 도구를 구성하는 생사와 관련된 연구를 살펴볼 것이다. 이번 단원에서 XAI의 목적은 개발자에게 AI를 설명하는 것이 아니라, 일반 실무자들에게 ML이 결정한 것을 신뢰할 수 있도록 ML 시스템의 예측에 대해 설명하는 것이다.