파이토치 1.X로 시작하는 딥러닝

제1부 파이토치 1.x와 심층 학습 구성 요소

제1장 파이토치로 심층 학습 시작하기
인공 지능 탐구 4
인공 지능의 역사 4
실제의 기계 학습 4
그래서, 왜 심층 학습(DL) 인가? 5
심층 학습의 응용 6
이미지의 텍스트 자동 번역 6
자율주행 자동차의 물체 감지 7
심층 학습 프레임워크 7
왜 파이토치인가? 8
파이토치 v1.x의 새로운 점은 무엇인가? 9
CPU 대 GPU 9
CUDA란 무엇인가? 10
어떤 GPU를 사용해야 하는가? 10
GPU가 없다면 어떻게 해야 하는가? 11
파이토치 v1.x 구축하기 11
파이토치 설치하기 11
요약 12

제2장 신경망의 구성 요소
무엇이 신경망 인가? 13
신경망의 구조 이해하기 14
파이토치에서 신경망 구축하기 16
파이토치 순차형 신경망 16
nn.Module을 이용한 파이토치 신경망 구축하기 19
파이토치 텐서 이해하기 23
텐서의 모양 및 변형 이해하기 27
텐서 연산 이해하기 29
파이토치에서 텐서 유형 이해하기 30
파이토치 텐서로 데이터셋 가져오기 32
파이토치에서 신경망 학습하기 34
요약 36

제2부 심층 학습으로 나아가기

제3장 신경망 더 깊이 알아보기
신경망 구성 요소에 관해 깊이 있게 알아보기 41
레이어-신경망의 기본 블록 43
비선형 활성화 46
Sigmoid 46
Tanh 47
ReLU 47
Leaky ReLU 48
파이토치 비선형 활성화 49
심층 학습 알고리즘을 구축하는 파이토치 방법 49
여러가지 심층 학습 문제를 위한 모델 아키텍처 50
손실 함수 51
네트워크 아키텍처 최적화하기 53
심층 학습을 이용한 이미지 분류 55
파이토치 텐서로 데이터 로딩하기 58
네트워크 아키텍처 구축하기 61
모델 학습하기 63
요약 65

제4장 컴퓨터 비전을 위한 심층 학습
신경망 소개 68
MNIST-데이터 가져오기 69
CNN 모델 처음부터 구축하기 71
Conv2d 73
Pooling 76
비선형 활성화-ReLU 78
View 79
모델 학습하기 81
개와 고양이 분류하기-처음부터 CNN 84
전이 학습을 이용하여 개와 고양이 분류하기 86
VGG16 모델을 생성하고 알아보기 88
레이어 고정하기 90
VGG16 파인튜닝 하기 90
VGG16 모델 학습하기 90
특징에 미리 합성곱 계산하기 94
CNN 모델의 학습 내용 이해하기 97
중간 레이어의 출력 시각화하기 97
CNN 레이어의 가중치 시각화 하기 101
요약 101

제5장 순차 데이터를 이용한 자연어 처리
텍스트 데이터로 작업하기 104
토큰화 105
N-gram 표현 107
벡터화 108
감성 분류기를 구축하면서 단어 임베딩 학습하기 112
IMDb 데이터 다운로드 및 텍스트 토큰화 수행하기 113
Vocabulary 구축하기 115
벡터의 배치 생성하기 117
임베딩으로 네트워크 모델 생성하기 119
모델 학습하기 120
사전 학습된 단어 임베딩 사용하기 122
임베딩 다운로드하기 122
모델에 임베딩 불러오기 124
임베딩 레이어 가중치 고정하기 124
순환 신경망 125
예제로 RNN이 작동하는 방법 이해하기 126
LSTM을 이용하여 텍스트 분류 문제 해결하기 130
장기 의존성(Long-term dependency) 130
LSTM 네트워크 130
순차 데이터에 대한 합성곱 네트워크 137
순차 데이터에 대한 일차원 합성곱 이해하기 137
언어 모델링 140
사전 학습된 모델 140
Embeddings from language models 141
Bidirectional Encoder Representations from Transformers 141
Generative Pretrained Transformer 2 142
파이토치 구현 143
요약 146

제3부 심층 학습의 최신 아키텍처 이해하기

제6장 오토인코더(Autoencoders) 구현하기
오토인코더의 어플리케이션 150
보틀넥과 손실 함수 150
합성곱 오토인코더 155
노이즈제거(denoising) 오토인코더 157
Variational autoencoders 158
VAE 학습하기 160
제한된 볼츠만 머신(Restricted Boltzmann machines) 164
RBM 학습하기 167
이론적인 예제-RBM 추천 시스템 168
DBN 아키텍처 174
미세조정 176
요약 176

제7장 생성적 적대 신경망
Neural style transfer 180
데이터 로딩하기 183
VGG 모델 생성하기 184
콘텐츠 손실 185
스타일 손실 185
손실 추출하기 188
각 레이어의 손실 함수 생성하기 192
최적화기 생성하기 192
모델 학습하기 192
GAN에 대한 소개 194
DCGAN 196
생성자 네트워크 정의하기 197
판별자 네트워크 정의하기 202
손실 및 최적화기 정의하기 203
판별자 훈련하기 204
생성자 네트워크 훈련하기 205
전체 네트워크 훈련하기 206
생성된 이미지 검사 207
요약 210

제8장 최신 아키텍처로 전이 학습 수행하기
최신 네트워크 아키텍처들 212
ResNet 212
인셉션(Inception) 220
조밀하게 연결된 합성곱 네트워크 - 덴스넷(DenseNet) 229
_DenseBlock 객체 230
_DenseLayer 객체 231
덴스넷 모델 생성하기 233
덴스넷 특징 추출하기 233
데이터셋과 로더 생성하기 234
완전 연결 모델 생성하기 및 훈련하기 234
모델 앙상블 236
모델 생성하기 238
이미지 특징 추출하기 238
데이터 로더와 함께 커스텀 데이터셋 생성하기 240
앙상블 모델 생성하기 241
모델 훈련하기 및 검증하기 242
인코더-디코더 아키텍처 244
인코더 246
디코더 246
어텐션(attention)을 갖는 인코더-디코더 246
요약 247

제9장 심층 강화 학습
RL에 대한 소개 249
모델 기반(Model-based) RL 251
모델 프리(Model-free) RL 253
온-폴리시(on-policy)와 오프-폴리시(off-policy) 비교하기 253
Q-learning 254
가치를 이용한 방법 256
가치 반복 257
코드 예제-가치 반복 257
정책을 이용한 방법 260
정책 반복 261
가치 반복 VS 정책 반복 264
정책 경사(Policy gradient) 알고리즘 265
Deep Q-networks 271
DQN 손실 함수 272
경험 재생(Experience replay) 273
코드 예제-DQN 273
Double deep Q-learning 280
Actor-critic 방법 281
코드 예제-actor-critic 모델 283
Asynchronous actor-critic 알고리즘 286
실용 어플리케이션들 287
요약 290

제10장 그 다음은?
그 다음은? 291
이 책의 개요 291
연구 논문을 읽고 구현하기 293
더 알아볼 만한 내용들 294
객체 감지 295
이미지 분할 295
파이토치의 OpenNMT 297
Allen NLP 297
fast.ai-다시 신경망이 어렵게 느껴진다면 297
Open neural network exchange 297
최신 정보를 유지할 수 있는 방법 298
요약 298