PyTorch로 시작하는 딥러닝

1장. 파이토치로 딥러닝 시작하기

__인공지능
____인공지능의 역사
__머신 러닝
____실생활 머신 러닝 사례
__딥러닝
____딥러닝 애플리케이션
____딥러닝의 과장된 미래
____딥러닝 역사
____왜 지금인가?
____하드웨어 가용성
____데이터와 알고리즘
____딥러닝 프레임워크
________파이토치
__요약


2장. 신경망 구성 요소

__파이토치 설치
__첫 번째 신경망
____데이터 준비
________스칼라(0차원 텐서)
________벡터(1차원 텐서)
________행렬(2차원 텐서)
________3차원 텐서
________텐서 슬라이싱(텐서 자르기)
________4차원 텐서
________5차원 텐서
________GPU 지원 Tensor
________Variable
____신경망에 사용할 데이터 생성하기
________학습 파라미터 생성
________신경망 모델
________네트워크 구현
________오차 함수
________신경망 최적화
____데이터 로딩
________데이터셋 클래스
________데이터로더 클래스
__요약


3장. 신경망 파헤치기

__신경망 구성 요소
____레이어 - 신경망 기본 블록
____비선형 활성 함수
________시그모이드
________Tanh
________ReLU
________Leakly ReLU
____파이토치 비선형 활성화 함수
________파이토치 딥러닝 알고리즘 구현하기
________다양한 머신 러닝 문제를 위한 모델 아키텍처
________손실 함수
________네트워크 아키텍처 최적화
____딥러닝을 이용한 이미지 분류
________파이토치 Tensor로 데이터 로딩
________일괄 처리 형태로 파이토치 Tensor로 로딩하기
__네트워크 아키텍처 구축
________모델 학습
__요약


4장. 머신 러닝 입문

__머신 러닝의 세 가지 유형
____지도학습
____비지도학습
____강화학습
__머신 러닝 용어
__머신 러닝 모델 평가
____학습, 검증 및 테스트 분할
__단순 홀드아웃 검증
__K-겹 검증
__데이터 혼합이 적용된 K-겹 검증
__데이터 전처리와 특성 공학
____벡터화
____수치 정규화
____누락 데이터 처리
____특성 공학
__과대적합과 과소적합
____더 많은 데이터 확보
____네트워크 크기 줄이기
____가중치 규제 적용
____드롭아웃
____과소적합
__머신 러닝 프로젝트 워크플로
____문제 정의와 데이터셋 만들기
____모델 평가 기준
____평가 프로토콜
____데이터 준비
____기준 모델
____과대적합 될 정도의 모델
____가중치 규제 적용
____학습률 선정 전략
__요약


5장. 컴퓨터 비전 딥러닝

__신경망 첫걸음
____MNIST - 데이터 가져오기
__CNN 모델 구축
CONV2D
____풀링
____비선형 활성화 레이어- RELU
____뷰
________선형 레이어
____모델 학습
____CNN을 이용1개와 고양이 분류
____전이 학습을 이용한 개와 고양이 분류
__VGG16 모델 생성과 탐색
____레이어 고정
____세부 조정: VGG16
____VGG16 모델 학습
__사전 계산된 컨볼루션 피처 사용
__CNN 학습에 대한 이해
____중간 레이어의 출력 시각화
__중간 레이어의 가중치 시각화
__요약


6장. 시퀀스 데이터와 텍스트 딥러닝

__텍스트 데이터 분석
____토큰화
________텍스트를 문자로 변환
________텍스트를 단어로 변환
________N-그램 표현
____벡터화
________원-핫 인코딩
____워드 임베딩
__감성 분류기로 워드 임베딩 학습시키기
____IMDB 다운로드와 텍스트 토큰화
________torchtext
________torchtext
____어휘 구축
____벡터 배치 생성
____임베딩으로 네트워크 모델 만들기
____모델 학습시키기
__사전 학습 워드 임베딩
____임베딩 다운로드
____모델에 임베딩 로딩하기
____임베딩 레이어 가중치 고정
__RNN
____RNN 작동 방식 이해
__LSTM
____장기 종속성
____LSTM 네트워크
________데이터 준비하기
________배치 처리기 생성하기
________네트워크 생성하기
________모델 학습시키기
__시퀀스 데이터와 CNN
____시퀀스 데이터를 위한 1차원 컨볼루션 이해
________네트워크 만들기
________모델 학습시키기
__요약


7장. 생성적 신경망

__신경망 스타일 트랜스퍼
____데이터 로딩
____VGG 모델 생성
____콘텐츠 손실
____스타일 손실
____VGG 모델 레이어의 손실 추출
____각 레이어의 손실 함수 만들기
____옵티마이저 만들기
____학습
__생산적 적대 신경망
____심층 컨볼루션 GAN
____생성기 네트워크 정의
________전치 컨볼루션
________배치 정규화
________생성기 네트워크 정의
____판별기 네트워크 정의
____오차와 옵티마이저 정의
____판별기 네트워크 학습
________실제 이미지로 판별기 학습시키기
________가짜 이미지로 판별기 학습시키기
____생성기 네트워크 학습
____전체 네트워크 학습 시키기
____생성 이미지 검토
__언어 모델
____데이터 준비
____배치 처리기 생성
________배치
________Backpropagation through time
____LSTM에 기반한 모델 정의
____학습과 평가 함수 정의
____모델 학습
__요약


8장. 모던 네트워크 아키텍처

__최신 네트워크 아키텍처
____ResNe
________파이토치 데이터셋 만들기
________학습과 검증을 위한 로더 생성
________ResNet 모델 만들기
________컨볼루션 피처 추출
________미리 계산된 컨볼루션 피처와 로더를 위한 사용자 정의 파이토치 데이터셋 클래스 만들기
________단순한 선형 모델 만들기
________모델 학습과 검증
____인셉션
________인셉션 모델 만들기
________register_forward_hood을 이용해 컨볼루션 피처 추출하기
________컨볼루션 피처를 위한 새로운 데이터셋 만들기
________전연결 모델 만들기
________모델 학습과 검증
__DenseNet: 컨볼루션 네트워크의 전연결 아키텍처
____DenseBlock
____DenseLayer
________덴스넷 모델 생성
________덴스넷 피처 추출
________데이터셋과 로더 만들기
________전연결 모델을 생성하고 학습
__앙상블 모델
____3개 모델 만들기
____Extracting the image features
____데이터 로더와 사용자 정의 데이터셋 생성
____앙상블 모델 만들기
____모델 학습시키고 검증
__인코더-디코더 아키텍처
____인코더
____디코더
__요약


9장. 마지막 그리고 새로운 시작

__다음은?
__개요
__연구 가치가 있는 흥미로운 아이디어
____객체 인식
____이미지 분할
____파이토치 OPENNMT
____ALIEN NLP
____FAST
____ONNX
__지속적인 정보 업데이트 방법
__요약