확률과 랜덤과정

PART 1 확률과 랜덤변수

Chapter 01 서론 .......................................... 3
1.1 랜덤 실험의 분석 4
1.2 전기 및 컴퓨터 공학에서 확률 6
1.2.1 신호 검출 및 분류 6
1.2.2 음성 모델링 및 인식 7
1.2.3 코딩 및 데이터 전송 8
1.2.4 컴퓨터 망 9
1.3 책의 개요 9

Chapter 02 확률 모형 .................................... 11
2.1 사건의 대수 12
2.1.1 기본 연산 12
2.1.2 표본공간의 표현 14
2.2 사건의 확률 17
2.2.1 확률의 정의 17
2.2.2 통계적 독립 21
2.3 응용 예 22
2.3.1 반복 독립시행 22
2.3.2 세는 것을 포함하는 문제 23
2.3.3 망 신뢰도 26
2.4 조건부 확률과 베이즈 규칙 28
2.4.1 조건부 확률 28
2.4.2 사건 나무 30
2.4.3 베이즈 규칙 32
2.5 추가 응용 33
2.5.1 이진 통신 채널 33
2.5.2 정보 측정과 코딩 35
2.6 요약 39

Chapter 03 랜덤변수와 변환 .............................. 55
3.1 이산 랜덤변수 56
3.2 자주 쓰는 이산 확률분포 58
3.2.1 베르누이 랜덤변수 59
3.2.2 이항 랜덤변수 59
3.2.3 기하 랜덤변수 60
3.2.4 푸아송 랜덤변수 62
3.2.5 이산균등 랜덤변수 64
3.2.6 그 외의 이산 랜덤변수 64
3.3 연속 랜덤변수 65
3.3.1 연속 랜덤변수의 확률적 설명 65
3.3.2 랜덤밀도함수(PDF) 66
3.3.3 이산 랜덤변수와의 관계 67
3.3.4 연속 랜덤변수를 포함하는 문제풀기 69
3.4 자주 쓰는 연속 랜덤변수 71
3.4.1 균등 랜덤변수 71
3.4.2 지수 랜덤변수 72
3.4.3 정규 랜덤변수 73
3.4.4 그 외의 연속 확률변수 77
3.5 이산 랜덤변수와 혼합 랜덤변수의 CDF와 PDF 77
3.5.1 이산 랜덤변수 77
3.5.2 혼합 랜덤변수 79
3.6 랜덤변수의 변환 80
3.6.1 변환이 가역일 경우 81
3.6.2 변환이 가역이 아닐 경우 83
3.6.3 변환이 평편한영역이나 불연속점을 포함 할 경우 86
3.7 사건에 조건이 포함된 분포 91
3.8 랜덤변수의 응용 93
3.8.1 디지털 통신 94
3.8.2 레이더/수중음파검출기 목표 검출 100
3.8.3 개체 분류 104
3.9 요약 106

Chapter 04 기댓값, 모멘트, 생성함수.................... 125
4.1 랜덤변수의 기댓값 126
4.1.1 이산 랜덤변수 126
4.1.2 연속 랜덤변수 127
4.1.3 기댓값의 불변성 128
4.1.4 기댓값의 성질 130
4.1.5 사건에 조건이 포함된 기댓값 131
4.2 분포의 모멘트 131
4.2.1 중심 모멘트 132
4.2.2 분산의 성질 134
4.2.3 고차 모멘트 135
4.3 생성함수 136
4.3.1 모멘트 생성함수 136
4.3.2 확률 생성함수 138
4.4 응용 : 엔트로피와 소스 부호화 141
4.5 요약 143

Chapter 05 두 개 이상의 랜덤변수 ...................... 157
5.1 두 개의 이산 랜덤변수 158
5.1.1 결합 PMF 159
5.1.2 독립인 랜덤변수 160
5.1.3 이산 랜덤변수의 조건부 PMF 161
5.1.4 이산 랜덤변수에 대한 베이즈 규칙 162
5.2 두 개의 연속 랜덤변수 165
5.2.1 결합분포 165
5.2.2 주변 PDF: 결합밀도의 사영 167
5.2.3 조건부 PDF: 결합밀도의 단면 170
5.2.4 연속 랜덤변수에 대한 베이즈 규칙 173
5.3 기댓값과 상관 176
5.3.1 상관과 공분산 177
5.3.2 조건부 기댓값 181
5.4 정규 랜덤변수 183
5.5 다중 랜덤변수 185
5.5.1 다중 랜덤변수의 PDF 185
5.5.2 랜덤변수들의 합 187
5.6 자주 쓰는 랜덤변수들의 합 192
5.6.1 베르누이 랜덤변수 192
5.6.2 기하 랜덤변수 192
5.6.3 지수 랜덤변수 193
5.6.4 정규 랜덤변수 194
5.6.5 정규 랜덤변수의 제곱 195
5.7 요약 195

Chapter 06 부등식, 극한정리, 매개변수 추정.................. 209
6.1 부등식 210
6.1.1 마르코프 부등식 210
6.1.2 체비세프 부등식 211
6.1.3 단방향 체비세프 부등식 212
6.1.4 기타 부등식 213
6.2 수렴과 극한정리 214
6.2.1 큰수의 법칙 216
6.2.2 중심극한 정리 217
6.3 매개변수의 추정 219
6.3.1 추정 및 특성 220
6.3.2 표본평균과 분산 222
6.4 최우도추정 223
6.5 점추정과 신뢰구간 228
6.6 신호추정에 응용 231
6.6.1 잡음속의 신호추정 231
6.6.2 표본 수의 선택 233
6.6.3 신뢰구간의 응용 235
6.7 요약 237

Chapter 07 랜덤벡터 ................................... 245
7.1 랜덤벡터 246
7.1.1 누적분포함수와 밀도함수 246
7.1.2 독립성분을 갖는 랜덤벡터 248
7.2 랜덤벡터의 분석 248
7.2.1 기댓값과 모멘트 248
7.2.2 데이터로부터 모멘트의 추정 251
7.2.3 다변량 정규밀도 252
7.2.4 상관이 없는 성분을 갖는 랜덤벡터 253
7.3 변환 254
7.3.1 모멘트의 변환 254
7.3.2 밀도함수의 변환 255
7.4 상호상관과 상호공분산 259
7.5 신호처리에 응용 260
7.5.1 디지털 통신 261
7.5.2 레이더/소나 목표탐색 263
7.5.3 패턴 인식 265
7.5.4 벡터 양자화 266
7.6 요약 270
PART 2 랜덤과정 입문

Chapter 08 랜덤과정 .................................... 279
8.1 서론 280
8.1.1 랜덤과정 모형 280
8.1.2 랜덤과정의 유형 280
8.1.3 랜덤과정으로서의 신호 282
8.1.4 연속 대 이산 282
8.2 랜덤과정의 특성 283
8.2.1 앙상블의 개념 283
8.2.2 시간 평균과 앙상블 평균: 에르고드성 285
8.2.3 일반 랜덤과정과 예측가능 랜덤과정 287
8.2.4 주기적 랜덤과정 289
8.3 자주 쓰는 이산 랜덤과정 290
8.3.1 베르누이과정 290
8.3.2 랜덤보행 292
8.3.3 IID 랜덤과정 294
8.3.4 마르코프과정 (이산) 294
8.4 자주 쓰는 연속 랜덤과정 295
8.4.1 위너과정 296
8.4.2 가우스 백색잡음 297
8.4.3 기타 가우스과정 297
8.4.4 푸아송과정 297
8.4.5 마르코프체인 (연속) 299
8.5 요약 299

Chapter 09 시간 영역에서의 랜덤 신호 ................. 307
9.1 랜덤 과정의 1차와 2차 모멘트 308
9.1.1 평균과 분산 308
9.1.2 자기상관 함수와 자기공분산 함수 308
9.1.3 광의의 정상성 311
9.1.4 자기상관 함수의 성질 313
9.1.5 백색잡음의 자기상관 함수 315
9.2 상호상관 317
9.3 복소 랜덤과정 321
9.3.1 복소과정에 대한 자기상관 함수 321
9.3.2 상호상관, 상호공분산, 성질 324
9.4 이산 랜덤과정 324
9.5 선형시스템에 의한 변환 330
9.5.1 연속신호와 시스템 330
9.5.2 모멘트의 변환 331
9.5.3 이산신호, 시스템, 모멘트 338
9.6 응용 342
9.6.1 시스템 식별 342
9.6.2 최적 필터링 343
9.7 요약 347

Chapter 10 주파수영역에서의 랜덤 신호 ................ 357
10.1 전력스펙트럼 밀도함수 358
10.1.1 정의 358
10.1.2 전력스펙트럼 밀도의 성질 359
10.1.3 상호전력스펙트럼 밀도 361
10.2 백색잡음 363
10.2.1 가우시안 백색잡음의 스펙트럼 표현 363
10.2.2 대역제한 백색잡음 36
10.3 선형시스템에 의한 변환 368
10.3.1 출력 평균 368
10.3.2 스펙트럼 밀도함수 368
10.4 이산 랜덤 신호 372
10.4.1 이산 전력스펙트럼 밀도 372
10.4.2 디지털시스템에서의 백색잡음 374
10.4.3 이산 선형시스템에 의한 변환 375
10.5 응용 378
10.5.1 디지털 통신 378
10.5.2 주파수영역에서의 최적 필터링 380
10.6 요약 382

Chapter 11 마르코프, 푸아송, 대기행렬 과정 ................ 389
11.1 푸아송 모형 390
11.1.1 푸아송 모형의 유도 390
11.1.2 푸아송과정 393
11.1.3 푸아송과정의 응용: 랜덤 전신신호 393
11.1.4 푸아송과정에 대한 추가설명 396
11.2 이산시간 마르코프체인 398
11.2.1 정의와 동적방정식 398
11.2.2 고차 전이확률 400
11.2.3 극한 상태확률 401
11.3 연속시간 마르코프체인 404
11.3.1 단순 서버 시스템 404
11.3.2 연속시간 마르코프체인의 분석 406
11.3.3 생성소멸과정에 대한 특수한 조건 410
11.4 기본 대기행렬 이론 411
11.4.1 단일서버 시스템 413
11.4.2 리틀의 공식 416
11.4.3 유한용량 단일서버 시스템 420
11.4.4 다중서버 시스템 423
11.5 요약 426

부 록
A 조합론의 기초 .......................................... 441
A.1 곱규칙 442
A.2 순열 (Permutations) 443
A.3 조합(Combinations) 445
B 단위 임펄스 .............................................. 449
B.1 임펄스함수 450
B.2 성질 452
C 오차 함수 .............................................. 455
D 잡음원 ................................................. 459
D.1 열 잡음 460
D.2 양자화 잡음 462