딥러닝 개념과 활용

01장 인공지능과 머신러닝
1.1 인공지능
-----1.1.1 지능
-----1.1.2 인공지능
-----1.1.3 '인공지능'이란 용어의 등장
-----1.1.4 인공지능 분야
1.2 머신러닝
-----1.2.1 인공지능을 떠받치는 머신러닝
-----1.2.2 머신러닝의 정의
-----1.2.3 머신러닝에서 자주 사용되는 핵심용어 정리
-----1.2.4 머신러닝의 분류
1.3 지도학습
-----1.3.1 지도학습: 예측, 회귀
-----1.3.2 지도학습: 분류
1.4 비지도학습
-----1.4.1 비지도학습: 군집
-----1.4.2 비지도학습: 차원축소
-----1.4.3 비지도학습: 생성모델
1.5 강화학습

02장 인공지능의 중심 딥러닝
2.1 딥러닝 개요
-----2.1.1 인공신경망
-----2.1.2 헵스 법칙: 신경망의 학습
-----2.1.3 최초의 딥러닝 모델: 퍼셉트론
2.2 단층 퍼셉트론
2.3 다층 퍼셉트론
-----2.3.1 단층 퍼셉트론의 한계
-----2.3.2 다층 퍼셉트론
2.4 에러의 역전파
-----2.4.1 에러의 역전파 이론의 배경
-----2.4.2 에러의 역전파 동작 개념
2.5 딥러닝
-----2.5.1 왜 딥러닝이 머신러닝의 핵심인가?
-----2.5.2 다양한 딥러닝 모델
2.6 딥러닝 프레임워크
-----2.6.1 다양한 딥러닝 프레임워크
-----2.6.2 파이토치 프레임워크를 이용한 딥러닝 모델 구현 방법
-----2.6.3 텐서플로우 프레임워크를 이용한 딥러닝 모델 구현 방법

03장 다양한 최적화 기법
3.1 경사하강법 개요
-----3.1.1 경사하강법 이해하기
-----3.1.2 경사하강법 적용 예제
-----3.1.3 딥러닝 프레임워크를 이용한 최적화
3.2 경사하강법 적용시 학습데이터 크기 결정
-----3.2.1 배치 경사하강법
-----3.2.2 확률적 경사하강법
-----3.2.3 미니배치 경사하강법
3.3 기본 경사하강법
3.4 관성을 이용한 경사하강법
-----3.4.1 모멘텀 경사하강법
-----3.4.2 NAG
3.5 적응형 경사하강법
-----3.5.1 AdaGrad
-----3.5.2 RMSprop
-----3.5.3 AdaDelta
3.6 혼합형 경사하강법
-----3.6.1 ADAM
-----3.6.2 NADAM
3.7 배치 정규화
3.8 파라메터 초기화

04장 오버피팅 해결방안 - 규제화
4.1 언더피팅, 노멀피팅, 오버피팅
4.2 L2 규제화
4.3 L1 규제화
4.4 드롭아웃과 드롭커넥트
-----4.4.1 드롭아웃
-----4.4.2 드롭커넥트
4.5 조기 종료

05장 벡터형 데이터 학습 모델 - MLP
5.1 벡터형 데이터 개요
-----5.1.1 학습 데이터 종류
-----5.1.2 벡터형 학습 데이터 정제하기
5.2 MLP를 이용한 벡터형 데이터 학습
-----5.2.1 MLP 모델
-----5.2.2 MLP 모델에서 행렬 및 텐서 연산
-----5.2.3 스코어와 분류기
-----5.2.4 MLP 모델을 이용한 MNIST 분류
5.3 활성화 함수
-----5.3.1 활성화 함수의 필요성
-----5.3.2 활성화 함수의 종류
-----5.3.2 좋은 활성화 함수란

06장 이미지 데이터 학습 모델 - CNN
6.1 이미지 데이터 분석
-----6.1.1 이미지 데이터 처리
-----6.1.2 컨볼루션 신경망의 시작
-----6.1.3 컨볼루션
-----6.1.4 풀링
-----6.1.5 평탄화
-----6.1.6 목적함수와 학습
6.2 CNN 모델의 발전
-----6.2.1 LeNet-5, AlexNet, VGGNet
-----6.2.2 GoogLeNet (Inception-V1)
-----6.2.3 ResNet
-----6.2.4 Xception
-----6.2.5 CNN 모델 비교
6.3 이미지 분류
-----6.3.1 이미지 분류를 위한 데이터셋
-----6.3.2 분류기와 목적함수
-----6.3.2 MNIST 필기체 숫자 분류 예제
6.4 이미지 객체 추출
-----6.4.1 SIFT
-----6.4.2 HOG
-----6.4.3 SURF
-----6.4.4 CNN 기반의 이미지 객체 추출
-----6.4.5 R-CNN, Fast R-CNN, Faster R-CNN, Mask R-CNN 알고리즘
-----6.4.6 YOLO 알고리즘
-----6.4.7 SSD 알고리즘
6.5 이미지 분할
-----6.5.1 이미지 분할을 위한 학습방법
-----6.5.2 FCN 알고리즘
-----6.5.3 U-Net 알고리즘
-----6.5.4 DeepLab V1, V2, V3, V3+ 알고리즘
6.6 학습 데이터 보완
-----6.6.1 학습 데이터 증강
-----6.6.2 가중치를 이용한 데이터 빈도수 조정

07장 순차적 데이터 학습 모델 - RNN
7.1 순차적인 데이터
-----7.1.1 스냅샷 데이터와 시퀀셜 데이터
-----7.1.2 순환신경망 활용 사례
7.2 순환신경망
-----7.2.1 순환신경망의 구조
-----7.2.2 기본 순환신경망에서의 연산
7.3 LSTM과 GRU
-----7.3.1 LSTM
-----7.3.2 GRU
7.4 학습 목적에 따른 신경망 구조
-----7.4.1 many-to-one 모델
-----7.4.2 one-to-many 모델
-----7.4.3 many-to-many 모델
-----7.4.4 many-to-many 모델: seq2seq
7.5 순환신경망에서의 역전파
-----7.5.1 BPTT: Back Propagation Through Time
-----7.5.2 TBPTT: Truncated Back Propagation Through Time
-----7.5.3 양방향 순환신경망
-----7.5.4 GRU를 이용한 독일 예나지역 기후예측 예제
7.6 언어모델
7.7 Sequence-to-Sequence 모델
7.8 Seq2Seq with Attention모델
7.9 트랜스포머
-----7.9.1 Positional Encoding
-----7.9.2 셀프 어텐션
-----7.9.3 멀티헤드 어텐션
7.10 GPT 모델과 BERT 모델
-----7.10.1 GPT 모델
-----7.10.2 BERT 모델

08장 신경망 기반 강화학습 - DRL
8.1 강화학습
-----8.1.1 강화학습 모델 구성요소
-----8.1.2 강화학습 문제 정의: MDP
8.2 가치기반 강화학습
-----8.2.1 동적 계획법
-----8.2.2 몬테카를로 방법
-----8.2.3 시간차 방법
8.3 정책기반 강화학습
-----8.3.1 REINFORCE 알고리즘
-----8.3.2 신뢰구간 정책 최적화 (TRPO)
-----8.3.3 근접 정책 최적화 (PPO)
-----8.3.4 액터-크리틱 방법 Actor-Critic Method: QAC, TD-AC, A2C, A3C, GAE
-----8.3.5 신경망 기반 결정적 정책 기울기 (DDPG)
8.4 모델기반 강화학습
-----8.4.1 정해진 전이모델 기반 명시적 계획법
-----8.4.2 학습된 전이모델 기반 명시적 계획법
-----8.4.3 전과정 계획 및 전이모델 동시 학습법

09장 감성을 지닌 컴퓨터 - 생성모델
9.1 창작을 하는 인공지능
-----9.1.1 크리스티 경매에서 팔린 인공지능이 그린 초상화
-----9.1.2 생성모델은 주관식
-----9.1.3 잠재변수
-----9.1.4 오토인코더
9.2 생성모델
-----9.2.1 제한된 볼츠만 머신
-----9.2.2 PixelRNN/PixelCNN
-----9.2.3 변분법을 이용한 오토인코더 (VAE)
-----9.2.4 생성적 대립 네트워크 (GAN)
-----9.2.5 가짜와의 전쟁: DeepFake

10장 AGI로 가는 길
10.1 특이점
-----10.1.1 선형 대 지수
-----10.1.2 일반 인공지능: AGI
10.2 AGI를 향한 도전
-----10.2.1 메타학습
-----10.2.2 전이학습
-----10.2.3 도메인 적응
-----10.2.4 NAS
-----10.2.5 AutoML
-----10.2.6 신경망 기반 추론 모델
-----10.2.7 자기지도학습
-----10.2.8 셀프 플레이
10.3 AGI로 가는 길