딥러닝 입문

CHAPTER 1 논리에서 인지과학까지
1.1 인공 신경망의 시작 1
1.2 XOR 문제 9
1.3 인지과학에서 딥러닝까지 13
1.4 일반 AI 영역에서의 신경망 18
1.5 철학적 및 인지적 측면 21
참고문헌 25

CHAPTER 2 수학 및 전산학 선행지식
2.1 미분 및 함수 최소화 29
2.2 벡터, 행렬 및 선형 프로그래밍 43
2.3 확률 분포 55
2.4 논리 및 튜링 머신 65
2.5 파이썬 코드 작성 69
2.6 파이썬 프로그래밍의 개요 72
참고문헌 84

CHAPTER 3 기계학습 기초
3.1 기본적인 분류 문제 88
3.2 분류 결과 평가하기 97
3.3 간단한 분류기: 나이브 베이지안 100
3.4 간단한 신경망: 로지스틱 회귀 104
3.5 MNIST 데이터셋의 소개 114
3.6 레이블없이 학습하기: K-Means 118
3.7 다른 표현 방식으로 학습하기: PCA 121
3.8 언어 학습하기: 단어 주머니(Bag of Words)표현 방식 126
참고문헌 129

CHAPTER 4 피드포워드 신경망
4.1 신경망의 기본 개념과 용어 131
4.2 벡터와 매트릭스로 신경망 구성요소 표현하기 136
4.3 퍼셉트론 규칙 139
4.4 델타 규칙 144
4.5 로지스틱 뉴런에서 역전파까지 147
4.6 역전파 154
4.7 완전 피드포워드 신경망 167
참고문헌 172

CHAPTER 5 피드포워드 신경망의 수정과 확장
5.1 정규화(Regularization) 개념 173
5.2 L1과 L2 정규화 176
5.3 학습률, 모멘텀, 드롭아웃 180
5.4 확률적 경사 하강과 온라인 학습 189
5.5 다중 은닉층 문제: 소실되거나 폭주하는그래디언트 191
참고문헌 194

CHAPTER 6 컨볼루션 신경망
6.1 로지스틱 회귀로의 3번째 방문 197
6.2 특징 맵과 풀링 203
6.3 완전한 컨볼루션 신경망 206
6.4 컨볼루션 신경망으로 텍스트 분류하기 211
참고문헌 216

CHAPTER 7 순환 신경망
7.1 동일하지 않은 길이의 시퀀스 217
7.2 순환 신경망 학습의 세 가지 설정 220
7.3 피드백 루프 추가 및 신경망 펼치기 223
7.4 엘만 네트워크 226
7.5 장단기메모리 228
7.6 순환 신경망으로 다음 단어 예측하기 233
참고문헌 244

CHAPTER 8 오토인코더
8.1 표현 학습 247
8.2 여러 가지 오토인코더의 구조 252
8.3 스태킹 오토인코더 255
8.4 고양이 논문의 재창조 260
참고문헌 263

CHAPTER 9 신경 언어 모델
9.1 단어 임베딩과 단어 유추 265
9.2 CBOW와 Word2vec 267
9.3 코드에서의 Word2vec 270
9.4 단어 공간을 걸어가기-기호 인공지능을피하는 아이디어 274
참고문헌 277

CHAPTER 10 다른 신경망 구조들의 개요
10.1 에너지 기반 모델 279
10.2 메모리 기반 모델 283
10.3 일반 연결주의 지능의 핵심: bAbI 데이터셋 288
참고문헌 291

CHAPTER 11 결론
11.1 열린 연구문제들에 대한 불완전한 개요 293
11.2 연결주의 정신과 철학적 유대관계 295
참고문헌 297

찾아보기