C++와 CUDA C로 구현하는 딥러닝 알고리즘 Vol.1

책 이미지

eBook 미리보기

책 정보

· 제목 : C++와 CUDA C로 구현하는 딥러닝 알고리즘 Vol.1 (Restricted Boltzman Machine의 이해와 Deep Belief Nets 구현)
· 분류 : 국내도서 > 컴퓨터/모바일 > 컴퓨터 공학 > 자료구조/알고리즘
· ISBN : 9788960778580
· 쪽수 : 288쪽
· 출판일 : 2016-04-28

책 소개

인공지능 기술에서 가장 중심에 해당하는 딥러닝 알고리즘의 핵심인 'Deep Belief Network'를 'CUDA'와 함께 다루면서 딥러닝의 구조와 원리를 이해하고, 이러한 알고리즘이 GPGPU에서 동작하기 위해 어떠한 개념과 기법들이 적용되고 있는지 확인해볼 수 있는 책이다.

1 소개
__이 책의 대상 독자
__다중 레이어 피드포워드 신경망 개요
__Deep Belief Nets란 무엇이며, 왜 이 모델이 좋은 것인가?

2 감독 피드포워드 신경망
__오차 역전파
____SoftMax 출력 계산 기법을 이용한 분류 작업
__기울기 계산 수행 소스코드
__가중치 패널티
__멀티스레드를 지원하는 기울기 연산
__CUDA 기반의 기울기 연산 코드
____기본 아키텍처
____간단한 예
____초기화
____은닉층 뉴런 활성화
____출력 뉴런 활성화
____oftMax 출력
____출력 델타
____출력 기울기
____첫 번째 은닉층의 기울기
____중간 은닉층들의 기울기
____기울기 가져오기
____평균 제곱 오차 연산의 효율을 향상 시켜주는 절감 알고리즘
____로그 발생 확률 연산의 효율을 향상시켜주는 절감 알고리즘
____총정리
__기본적인 훈련 알고리즘
____첫 가중치를 구하기 위한 담금질 모사 알고리즘
____최적의 출력 가중치 계산을 위한 특이값 분해
____통계적 기울기 하강
____기울기 최적화의 켤레 개념

3 제한된 볼츠만 머신
__제한된 볼츠만 머신이란?
____재구조화 오차
__최대 발생 가능 훈련
____대조적 발산
____가중치 패널티
____희소성 유도
____초기 가중치 찾기
____은닉 뉴런 바이어스
____가시 뉴런 바이어스
____재구조화 오차 구현 코드
____멀티스레드 기반의 초기 가중치 선택
____통계적 기울기 하강 알고리즘의 기본 원리
____핵심 알고리즘
____배치 단위로 에포크 분할
____에포크 뒤섞기
____학습률과 모멘텀 업데이트
____수렴 값 결정
__멀티스레드 기반의 RBM 훈련 알고리즘 구현 코드
__CUDA 기반의 RBM 훈련 코드
____초기화와 캐시 라인 매칭
____훈련 데이터 가져오기
____가시 레이어에서 은닉 레이어로
____은닉 레이어에서 가시 레이어로
____기울기 길이와 내적 연산의 효율성을 향상시켜주는 알고리즘
____입력 바이어스 업데이트
____은닉 뉴런 바이어스 업데이트
____가중치 업데이트
____총정리
____타이밍
____가중치 업데이트 분석
____가시 레이어에서 은닉 레이어로의 분석
____은닉 레이어에서 가시 레이어로의 분석
____향상된 훈련 알고리즘과 향후 버전

4 탐욕적인 훈련
__생성적 샘플링

5 DEEP 사용 매뉴얼
__메뉴 옵션
____파일 메뉴 옵션
____테스트 메뉴 옵션
____화면 출력 메뉴 옵션
__데이터베이스 읽어 들이기
__MNIST 이미지 읽어 들이기
__MNIST 라벨 읽어 들이기
__활성화 파일 작성
__모든 데이터 삭제
__모델 아키텍처
__데이터베이스 입력과 목표치
__RBM 훈련 파라미터
__감독 훈련 파라미터
__훈련
__테스트
__분석
__수용 영역
__생성적 샘플
__DEEP.LOG 파일

저자소개

티모시 마스터즈 (지은이) 정보 더보기

수리 통계학 분야에서 수치 계산(numerical computing) 전공으로 박사 학위를 받았다. 그 이후 독립적인 컨설턴트로서 정부 및 산업 기관과 함께 지속적인 업무 경력을 쌓았다. 초기 연구 분야는 고고도(high-altitude) 촬영 사진에서 자동으로 특징(feature)을 추출하는 기능과 관련된 것들이며, 홍수와 가뭄 예측, 숨겨진 미사일 저장탑 탐지, 위협적인 군사용 차량 확인 등의 다양한 애플리케이션들을 개발했다. 그 후에는 침생검(needle biopsies)상에서 유익한 세포와 유해한 세포를 구별해내는 알고리즘 개발을 위해 의료 연구원으로 근무했다. 이후 12년 동안 주로 자동화된 금융 거래 시스템을 평가하기 위한 알고리즘을 개발했다. 지금까지 예측 모델을 실무에 적용하는 방법에 대한 내용으로 『Practical Neural Network Recipes in C++』(Academic Press, 1993), 『Signal and Image Processing with Neural Networks』(Wiley, 1994), 『Advanced Algorithms for Neural Networks』(Wiley, 1995), 『Neural, Novel, and Hybrid Algorithms for Time Series Prediction』(Wiley, 1995), 『Assessing and Improving Prediction and Classification』(CreateSpace, 2013), 『C++와 CUDA C로 구현하는 딥러닝 알고리즘 Vol.1』(에이콘, 2016), 『C++와 CUDA C로 구현하는 딥러닝 알고리즘 Vol.3』(에이콘, 2016) 등을 저술했다. 이 책에서 활용하는 코드는 그의 홈페이지 (TimothyMasters.info)에서 다운로드할 수 있다.

펼치기

티모시 마스터즈의 다른 책 >

이승현 (옮긴이) 정보 더보기

한국 항공대학교 기계공학부를 졸업하고, 삼성 소프트웨어 멤버십과 산업통상자원부 소프트웨어 마에스트로를 수료했다. MDS 테크놀로지에서 자동차의 ISO26262 국제 안전 표준과 AUTOSAR 관련 기술 지원을 담당했으며, 현재 시어스랩에서 모바일 환경에서의 DCNN 구동을 위한 압축 알고리즘 연구에 매진하고 있다. 한양대학교 컴퓨터공학과에서 석사 과정을 밟고 있으며, 딥러닝 기반 실시간 영상처리 기술을 다양한 도메인의 소프트웨어에 적용하는 연구를 하고 있다. 양질의 원서를 하루라도 빨리 우리글로 옮겨 국내 개발자들에게 도움을 주고자 번역계에 발을 들였다. 에이콘출판사에서 펴낸 『윈도우폰 7 게임 프로그래밍』(2012), 『안드로이드 앱 인벤터』(2013), 『데이터 마이닝 Data Mining』(2013), 『C++와 CUDA C로 구현하는 딥러닝 알고리즘 Vol.1』(에이콘, 2016), 『C++와 CUDA C로 구현하는 딥러닝 알고리즘 Vol.3』(에이콘, 2016)를 번역했다.

펼치기

이승현의 다른 책 >