멜트다운

프롤로그: 평범한 어느 날

1부 실패로 가득한 세상

1장 위험구역
1. 뭔가가 잘못됐다
2. 정상 사고, 조직이 만드는 참사
3. ‘소급 오류’라는 무시무시한 결론
4. 긴밀한 결합과 복잡도
5. 스타벅스가 칙 페로의 세계에
떨어졌다

2장 딥워터 뉴 호라이즌스
1. 확장된 ‘위험구역’
2. 복잡하고, 불투명하며,
가차 없는 시스템
3. 안전장치라는 환상
4. 복잡도 속에 몸을 숨긴 절도범

3장 해킹, 사기,
그리고 지면을 차지한 가짜뉴스들
1. POS가 해킹당했다고?
2. 더 똑똑하고 편리해진 위험
3. 악마의 술수가 된 시가평가
4. 그는 거기에 없었다

2부 복잡도 정복하기

4장 위험구역 밖으로
1. 재앙을 낳은 안전장치
2. 단순하고, 투명하게,
여유을 더하는 방법

5장 복잡한 시스템, 단순한 도구
1. 핵발전소보다 나은 대피소는 없었다
2. 고약한 환경과 중요한 결정
3. 경기가 끝나면 이야기는 달라진다

6장 불길한 징조 읽기
1. 하루 60달러의 대가
2. 사라진 열차
3. 주위는 어둡고, 지시는 모호했다
4. 구사일생상황보고서 작성하기

7장 반대의견의 진면목
1. 죽음을 불러온 ‘시체 냄새’
2. 반대의견의 중요성
3. 경고신호에 귀를 기울이기

8장 과속방지턱 효과
1. ‘무죄추정 효과’가 불러온 재앙
2. 다양성 전담반 가동하기
3. 비전문성이 조직을 구한다

9장 낯선 세계의 낯선 사람들
1. 컴퓨터가 철창을 열어주다
2. 모든 권력을 이방인에게!
3. 배타성을 키우는 우물 안 개구리
4. 일탈의 정상화가 일으킨
챌린저호의 재앙

10장 놀랐지!
1. 무조건 도착 증세에 저항하기
2. 긍정적 순환을 위한 ‘잠깐 멈춤’
3. 다른 모든 사람의 임무를
알아야 합니다

에필로그: 멜트다운의 황금시대

감사의 말
주석
찾아보기

제트엔진에서 가정용 온도조절기까지, 새로운 기기 수십억 대가 이제 사고 및 공격에 취약한 거대하고 복잡한 시스템, 흔히 사물인터넷Internet of Things이라고 부르는 연결망의 일부를 이루고 있다. 예를 들어, 이미 무선 인터넷 연결을 지원하는 ‘스마트’ 세탁기와 드라이어를 생산하는 제조사들이 있다. … 스마트 드라이어에 보안 결함이 있다면 원격으로 접속한 해커가 프로그램을 조작해 모터를 과열시켜 화재를 발생시킬 수 있는 것이다. 보안이 취약한 드라이어를 둔 집이 1000곳만 돼도 해커 한 명이 중소 도시 하나를 발칵 뒤집어놓을 수 있다.
_3장 | 해킹, 사기, 그리고 지면을 차지한 가짜뉴스들 중에서

에너지 거대 기업 엔론의 책임자였던 패스토와 동료들만큼이 나 이익을 위해 복잡도를 악용한 집단은 아마 없을 것이다. … 페스토가 엔론의 부채를 숨기고, 수익을 부풀리고, 수천만 달러를 몰래 자기 호주머니에 넣기 위해서 복잡한 금융 구조를 이용한 사실도 확연히 드러났다. … “통나무 하나를 숨기려면 숲에다 집어넣으면 돼요.” 미시간주 의회 의원인 존 딩겔John Dingell은 이렇게 말했다. “지금 우리는 기가 막히게 복잡한 금융보고서의 일례를 보고 있습니다. 그들은 거짓말을 할 필요가 없었어요. 극도로 복잡한 구조 속에 애매하게 섞어두기만 하면 됐죠.” … 페스토는 나중에 이렇게 설명했다. “회계 규정과 규제, 증권 법률과 규제는 모호합니다. 복잡하죠……. 엔론에서 내가 한 일과 회사로서 우리가 [하던] 일은 그 복잡도, 그 모호함을 문제가 아니라 기회로 본 것입니다.” 복잡도는 기회였다.
_3장 | 해킹, 사기, 그리고 지면을 차지한 가짜뉴스들 중에서

안전장치는 확실히 매력적이다. 예측할 만한 실수를 막아주기 때문에 가능한 한 많이 사용하고 싶어진다. 그러나 안전장치는 그 자체가 시스템의 일부가 되어 복잡도를 높인다. 복잡도가 증가할수록 예상치 못한 요인 때문에 실패를 마주할 가능성이 커진다. 역효과를 낳는 안전장치는 여분만이 아니다. 집중치료실 다섯 곳의 침대 머리맡 경보를 연구한 결과 불과 한 달 사이에 뜬 경보가 250만 건인데 그중 40만 건 정도는 경고음도 울렸다. 그 말은 경보가 초당 한 개씩 뜨고 8분에 한 번씩은 경고음이 울렸다는 것이다. 경보 중 90퍼센트 가까이가 거짓양성false positive이었다. 옛 우화에서처럼 8분에 한 번씩 늑대가 왔다고 외친다면 사람들은 곧 관심을 잃을 것이다. 더 큰 문제는 실제로 심각한 사건이 발생할 경우, 무수히 뜨는 경보 중에서 사소한 것들을 제치고 중요한 경보를 찾아내기가 어려워진다는 것이다.
_4장 | 위험구역 밖으로 중에서