AI와 DL의 기초 진지한 시작

PART I AI와 DNN

CHAPTER 01 AI와 DNN의 소개
1 AI는 무엇이고, DNN은 무엇인가
2 학습을 위한 준비

CHAPTER 02 DNN 학습 준비
1 DNN을 위한 기본모델-회귀분석
2 다중회귀분석과 Vector 표현
3 로지스틱 회귀분석
4 Multi-Nominal Logistic 회귀분석(Multi-Class Classification)과 Multi-Label Classification

CHAPTER 03 DNN의 소개
1 DNN의 기본형태
2 DNN 모델의 코딩
3 자료 준비하기
4 학습
5 학습결과의 평가

CHAPTER 04 Validation과 Autoencoder 모델
1 모델 결과의 평가와 일반화(Generalization)
2 Autoencoder

CHAPTER 05 DNN 모델의 구조와 발전
1 DNN 모델의 목적과 구조
2 DNN 모델의 발전

PART II DNN의 구성요소들

CHAPTER 06 Data 사전처리 및 보완
1 Vectorization
2 Normalization, Standardization
3 Missing Value와 변수의 선택과 Feature Engineering
4 Label 붙이기와 Data Augmentation와 Synthetic Data
5 자료의 불일치와 해결 방법들, Imbalance 문제와 Distribution Shift

CHAPTER 07 모델 구성요소 I
1 Initial Weight
2 Activation 함수들
3 Regularization

CHAPTER 08 모델 구성요소 II
1 Supervised Learning에서의 Loss 함수
2 Unsupervised Learning에서의 Loss 함수
3 Self Supervised Learning의 모델과 Loss
4 Semi-Supervised Learning(SSL) 모델과 Loss

CHAPTER 09 Optimization 방법들
1 Optimization의 기본개념
2 미분가능성에 따른 Optimization 방법들의 구분
3 Learning Rate Scheduler
4 Hyper Parameter Tuning

CHAPTER 10 모델 성과 평가 척도(Metrics)
1 모델의 성과와 Fit Measure
2 실수(Metric) 변수를 위한 Accuracy Metrics
3 Dichotomus 변수를 위한 Accuracy Metrics
4 Fit Curves, PR Curve와 ROC Curve
5 Multi-Label과 Multi-Class 분류 평가척도
6 Loss 함수로서의 F1, Soft-F1 Loss
7 Ablation Study

PART III Computer Vision과 CNN

CHAPTER 11 Computer Vision 모델의 기본
1 Computer Vision 모델
2 CNN의 기본구조
3 Transposed Convolution과 Up-Sampling Layers
4 Fully Convolutional Network
5 CNN Architecture

CHAPTER 12 CNN 및 Computer Vision 모델들의 활용 분야
1 Object Detection(Classification과 Localization)
2 Localization과 IOU
3 Two Stage Models and One Stage Detector
4 Anchor Free 모델
5 Pose Detection과 다양한 용도(Caption/Landmark Detection)
6 Segmentation
7 다양한 Object Detection 모델들
8 3D Image 모델과 Dynamic Motion 모델

CHAPTER 13 Style Change와 Vision 모델 평가
1 DNN이 사진 속 물체를 이해하는 방법
2 Style과 Feature 확인
3 Style Transfer
4 Vision Model 들의 평가
5 Vision Benchmark DB

PART IV Language Model

CHAPTER 14 언어모델의 구성 요소
1 언어모델(Language Model)의 시작
2 NLP(Natural Language Processing)와 언어모델(Language Model)

CHAPTER 15 RNN을 통한 LM
1 RNN(Recurrent Neural Network)의 기초
2 Decoding 방법들, Self-Refinement at Test Time
3 RNN의 활용 방법에 따른 다양한 RNN 모델구조들

CHAPTER 16 RNN 활용과 LM 평가와 Benchmark
1 Neural Machine Translation(with Attention)
2 Autoregressive Model로서의 RNN
3 LM 평가방법들
4 LM 모델을 위한 Benchmark DB들