SPSS에 의한 회귀분석의 실제

머리말 iii

0. 미리 알고 있으면 좋은 기초 정보통계학
0.1 확률변수들의 연산규칙 2
0.2 정보와 통계적 추론 3


1. 회귀분석과 인과관계의 모형화
1.1 변수들 사이의 관계 12
예 1.1: 자동차가 늘어나면 결핵환자는 줄어든다? 13
1.2 통계적 관계 14
예 1.2 통계적 관계의 예: 기계의 작동속도와 불량품의 관계 14
1.3 회귀분석의 목적 16
1.4 회귀모형의 수립 17
1.5 컴퓨터의 활용 19


2. 단순선형 회귀분석
2.1 단순선형회귀모형 22
2.2 최소제곱법에 의한 모수의 추정 24
예 2.1 빅토리아 호수의 수위와 태양흑점 사이의 관계 25
2.3 최소제곱추정량의 성질 28
2.4 의 추정 29
2.5 회귀계수의 유의성검정과 구간추정 30
예 2.2 빅토리아 호수면높이 모형(계속) 35
2.6 분산분석과 결정계수 36
예 2.3 빅토리아 호수면높이 모형(계속) 39
2.7 원점을 지나는 회귀 41
2.8 회귀분석의 절차 44
2.9 SPSS를 이용한 단순회귀분석 45


3. 단순회귀분석의 문제점 진단과 해결방법
3.1 설명변수에 대한 반응변수의 산점도 66
3.2 상관계수 68
예 3.1 헬리콥터와 경비행기에서 측정한 매너티 수 사이의 상관계수 70
3.3 비선형모형의 선형화 72
예 3.2 자동차 연비와 무게 사이의 관계와 역수변환 74
3.4 예측값에 대한 반응값의 산점도 82
예 3.3 빅토리아 호수면 높이모형(예 2.3에서 계속) 83
3.5 예측값에 대한 잔차의 산점도 85
예 3.4 빅토리아 호수면 높이모형(계속) 86
3.6 단순회귀모형의 선형화변환 기법 89
예 3.5 핵폭발과 진도 사이의 모형 90
3.7 곡선추정 93
예 3.6 일본 승용차보급률 모형 95
3.8 오차가 정규분포인가? 100
예 3.7 빅토리아 호수면 높이모형(예 3.4의 계속) 100
예 3.8 빅토리아 호수면 높이모형(예 3.7의 계속) 102
3.9 다른 설명변수는 없는가? 103
예 3.9 빅토리아 호수면 높이모형(예 3.8의 계속) 104
3.10 오차항은 서로 독립인가? 107


4. 중회귀모형의 분석
4.1 중회귀모형 116
4.2 중회귀모형의 추정 118
예 4.1 빅토리아 호수면 높이모형(예 3.9에서 계속) 121
4.3 신뢰구간 126
4.4 감춰진 외삽의 문제 129
4.5 중회귀분석에서 가설검정 130
4.6 표준화 회귀계수 혹은 베타계수 133
4.7 다중결정계수 134
예 4.2 빅토리아 호수면 높이모형(예 4.1에서 계속) 135
예 4.3 마취인력의 근무시간 모형 137


5. 회귀진단과 문제해결
5.1 회귀진단 150
5.2 여러 가지 도표에 의한 회귀진단 151
예 5.1 마취인력의 근무시간 모형(계속) 154
예 5.2 마취인력의 근무시간 모형(계속) 158
5.3 파워변환에 의한 선형화 160
예 5.3 자동차 연비모형(연습문제 4.3의 계속) 162
5.4 등분산화 변환 164
예 5.4 자동차 연비모형(계속) 166
5.5 이상점의 식별 168
예 5.5 스코틀랜드 산악마라톤 경주 Scottish hill race 모형 170
예 5.5 - ? 선형모형 170
예 5.5 - ? 18번 케이스 제외 173
예 5.5 - ? 18번 케이스 제외한 후 2차 모형 175
예 5.6 스코틀랜드 산악마라톤경주 모형(계속) 179
5.6 영향관측값의 식별 181
예 5.7 스코틀랜드 산악마라톤경주 모형(계속) 186
5.7 다중공선성과 해결방법 189
예 5.8 Gunst and Mason의 신체측정데이터 195
5.8 자기상관과 해결방법 198
예 5.9 자동차판매대수와 광고비 198
예 5.10 국채판매액 모형 201
예 5.11 국채판매액 모형(계속) 204


6. 모형수립에 관한 몇 가지 주제들
6.1 설명변수에 지시변수가 포함된 모형 214
예 6.1 Lederman의 각도인지 데이터 214
예 6.2 Lederman의 각도인지 데이터(계속) 218
예 6.3 자동차연비 모형(연습문제 5.5의 계속) 221
예 6.3 주택판매가격 데이터 224
예 6.4 총 수돗물 소비량에 대한 연구 229
6.2 반응변수가 질적변수인 로지스틱 회귀분석 232
예 6.5 자동차 대중화 모형 235
6.3 로짓분석 241
예 6.6 할인쿠폰의 효과분석 242
6.4 최적변수선택과 기준 247
6.5 변수선택방법들 252
예 6.7 시멘트경화열 모형(Hald 데이터) 253
예 6.8 시멘트경화열 모형(계속) 258
예 6.9 시멘트경화열 모형(계속) 261

부록 273
참고문헌 275

머리말

통계를 알면 미래가 보인다


이 말은 내가 오래 전 대학에서 교양과목으로 통계학을 소개하는 강좌를 개설하였을 때 사용하였던 강좌이름입니다. 그 후 통계청에서 같은 표현을 사용하는 것을 보았습니다만 어쨌든 통계학은 미래를 보는 방법입니다.

그 통계학 중에서 특히 회귀분석이라는 방법을 내가 사용한지는 벌써 30년이 되어 갑니다. 그 긴 세월동안 내가 항상 느꼈던 것은 많은 사람들이 회귀분석을 이용하지만 그 방법을 잘 이용하는 사람은 많지 않다는 사실입니다. 물론 이런 사실은 회귀분석에만 국한 되는 것은 아니고 일반적인 통계분석에 모두 적용되는 현실일 것입니다. 심지어는 분석하고자 하는 데이터와 서로 어울리지 않는 방법을 아무런 문제의식 없이 사용하기도 합니다.

이렇게 된 데에는 몇 가지 이유가 있을 터이지만 중요한 사실 하나는 사람들이 통계라면 미리 어렵다고 전제해 버리는 것과 연관이 있을 것이라는 점은 모두 동의할 것입니다. 그래서 많은 통계학자들은 이런 현상에 대해 책임감을 느끼며 좋은 책들을 쓰려고 노력하고 있습니다.

회귀분석 책은 어떤 책이 좋은 책일까요? 나는 이론적으로도 적확하고 수리적 배경을 잘 설명하는 책이면서 동시에 많은 실제 데이터분석 사례를 제시하는 책이어야 한다고 생각합니다. 국내에서 이론적으로 적확하게 정리한 책은 찾아 볼 수 있지만 내가 과문한 탓인지 사례연구를 다양하게 제시하는 책은 찾기가 힘들었습니다. 사실 이론과 사례연구를 동시에 한 책에 담기는 현실적으로 어렵습니다. 수리적으로 기술하는 책은 통계학 전공자들을 중심으로 독자층이 형성되는 반면, 일반 분석자들이나 통계학 전공자라 하더라도 대학 졸업 후 바로 사회에 진출하고자 하는 학생들에게는 오히려 사례연구가 더 중요합니다. 그래서 서로 독자층이 달라 한 권의 책에 둘 다 담는 것은 쉽지 않기 때문입니다.

이 책은 바로 후자의 경우를 염두에 두고 집필하였습니다. 회귀분석을 사용하는 분들이 이 통계분석 방법을 바로 알고 제대로 사용하게 하고 싶다는 것이 이 책을 집필하는 동안 내 마음 속의 간절한 바람이었습니다. 그래서 가능한 많은 예제를 담았고, 무엇보다 많은 그림을 통해 데이터의 특징을 드러내고 이해하는 방법을 소개하려고 노력하였습니다.

게으름 때문에 강의노트 상태로 7년을 끌다가 이제 겨우 세상에 내 놓습니다. 그래서 부족한 점도 많고 추가해야 할 내용도 많습니다. 그런 일은 개정판을 낼 때 하기로 미룹니다. 부디 이 책이 세상에 나왔다가 금방 사라지는 다른 많은 책들의 운명을 따르지 않고 많은 데이터 분석자들이나 통계학도들이 회귀분석에 대해 눈을 뜨게 하는데 작은 도움이 되길 빌어마지않습니다.

이 책의 마무리 작업을 할 때 원고를 일일이 읽어보고 오탈자는 물론, 자신의 의견을 주어 완성도를 높이는 데 큰 도움을 준 최승경 박사에게 감사의 말을 전합니다. 또 처음 원고를 마무리 하겠다고 약속한 날로부터 무려 한 달여를 지나서야 탈고했는데도 싫은 기색 없이 출판에 나서 주신 경문사 직원들께도 감사드립니다. 끝으로 지난 몇 년간을 방학 때마다 강의노트를 가다듬느라고 밤늦게까지 책상 앞에 붙어 있곤 했던 나를 불평 없이 지켜 봐준 가족들과 함께 출판의 기쁨을 나눕니다.

2009년 2월 20일
아름다운 화산의 나무 그늘 아래에서 저자 씀