진실을 말하면서 거짓말하는 숫자
증거와 통계 읽기
통계는 완전히 정확하면서도 여러분을 속일 수 있습니다. 헤드라인, 연구, 대시보드, 또는 자동화 보고서의 모든 숫자는 여러분에게 도달하기 전에 일련의 선택을 거쳤습니다. 누군가가 측정값, 표본, 범위, 그리고 축을 선택했습니다.
오늘 여러분이 기르는 기술은 이 네 가지를 모두 읽는 것입니다: 측정값(어떤 평균인지), 분산(데이터가 얼마나 변하는지), 표본(누가 집계되었는지), 그리고 축(차트가 어떻게 그리는지).
이러한 선택들이 의문을 제기받지 않을 때, 올바른 숫자도 거짓된 이야기를 들려줍니다. 그러나 여러분이 이를 의문시할 때, 데이터가 실제로 말하는 것을 볼 수 있습니다.
반쯤 믿었던 숫자
시작하기 전에, 한 번 접해본 통계를 떠올려 보세요.
세 가지 평균, 세 가지 이야기
'평균'이라는 단어 뒤에 숨겨진 선택
서로 다른 세 가지 측정치가 모두 '평균'이라고 불립니다. 이들은 보통 서로 다른 값을 가지며, 그 차이는 중요한 정보를 담고 있습니다.
- 평균(Mean): 모든 값을 더한 후 개수로 나눕니다. 모든 숫자에 민감하므로, 극단적인 값 하나가 평균을 크게 끌어당깁니다.
- 중앙값(Median): 값을 정렬한 후 가장 중간에 있는 값을 취합니다. 데이터의 절반이 그 위에, 절반이 그 아래에 위치합니다. 이상치는 중앙값에 거의 영향을 미치지 않습니다.
- 최빈값(Mode): 가장 자주 나타나는 값입니다. 범주형 데이터나 불규칙한 분포에서 일반적인 경우를 찾는 데 유용합니다.
각 측정치가 오해를 불러일으키는 경우
수천 달러 단위로 소득이 30, 32, 35, 38, 40, 42인 6가정과 250인 1가정, 총 7가정을 고려해 보자.
평균은 약 67k이지만, 7가구 중 6가구는 이보다 적은 소득을 번다. 250k라는 단일 값이 평균을 거의 모든 가구보다 위로 끌어올렸다. 중앙값은 38k로, 진정한 중간 값이며 전형적인 가구를 훨씬 더 잘 설명한다.
이것이 바로 전형적인 소득 함정이다. 평균을 보고하면 왜곡된 집단이 실제로보다 더 부유해 보인다. 중앙값을 보고하면 중간을 볼 수 있다.
원칙: 왜곡된 데이터나 이상치가 있는 데이터의 경우, 중앙값이 정직한 이야기를 들려준다. 대략 대칭적이고 극단적인 값이 없는 데이터의 경우, 평균과 중앙값은 거의 일치하며 둘 중 어느 것을 사용해도 무방하다.
정직한 측정값 선택하기
당신의 차례
어떤 마을이 "평균" 주택 가격이 900k라고 보고한다. 대부분의 주택은 250k에서 400k 사이에 거래되었지만, 3채의 저택이 각각 600만 달러 이상에 판매되었다는 사실을 알게 되었다.
직접 계산해 보기
작은 데이터셋
스타트업의 7명의 직원이 다음과 같은 연봉(천 단위)을 받습니다:
40, 42, 45, 48, 50, 55, 그리고 창업자의 400.
두 가지 중심 경향성 측도를 모두 계산한 후, 이 회사의 전형적인 급여를 상상할 때 구직자가 어느 측도를 신뢰해야 하는지 결정해 보자.
같은 평균, 다른 세계
평균은 분산을 가린다
두 데이터셋은 동일한 평균을 공유하면서도 완전히 다른 현실을 설명할 수 있다. 평균은 값들이 얼마나 넓게 퍼져 있는지에 대해 아무것도 말해주지 않는다.
A반 시험 점수: 78, 80, 82, 80, 80. 평균 80점, 모든 사람이 좁은 범위에 밀집해 있다.
B반 시험 점수: 40, 100, 60, 100, 100. 평균 80점이지만, 점수가 불합격부터 만점까지 극단적으로 편차 있게 나타난다.
평균은 모두 80점이다. 한 반은 균일한 반면, 다른 반은 고군분투하는 학생들과 뛰어난 학생들로 나뉘어 있다. 두 반 모두 "평균 80점"이라고만 하는 보고서는 그 차이를 지워버린다.
분산(범위 또는 표준편차로 측정)은 값들이 중심을 기준으로 얼마나 변하는지를 알려준다. 분산이 없는 평균은 문장의 절반에 불과하다. 항상 데이터가 얼마나 넓게 퍼져 있는지 질문하라.
표본은 논증이다
작은 표본은 노이즈가 많고, 편향된 표본은 틀린 결과를 낳는다
통계량은 측정된 대상에 대해 설명합니다. 표본이 작거나 대표성이 없다면, 그 수치가 얼마나 정밀해 보였든 더 넓은 세계에 대해 거의 아무것도 말해주지 않습니다.
- 표본 크기: 작은 표본은 우연에 의해 극심하게 변동합니다. 공정한 동전을 4번 던지면 100% 앞면이 나오는 것은 흔한 일이며, 4,000번 던지면 50% 근처로 수렴합니다. 10명으로부터 얻은 "40% 개선"은 대부분 노이즈입니다.
- 대표성: 한 동네, 한 연령대, 또는 한 웹사이트의 사용자에 대한 여론 조사는 모든 사람을 대변할 수 없습니다. 설명하려는 모집단을 반영해야 합니다.
- 선정 편향: 표본을 수집하는 방식이 표본을 기울게 만듭니다. 온라인 설문조사는 그것을 보고 응답하기로 선택한 사람들만 도달합니다.
- 생존자 편향: 생존자만 측정합니다. 제2차 세계대전 중, 엔지니어들은 복귀한 비행기를 연구하여 방탄 장갑을 어디에 추가할지 결정했고, 총탄 구멍을 표시했습니다. 아브라함 발드는 복귀한 비행기에 총탄 구멍이 없는 곳에 방탄 장갑이 belonged 해야 한다고 지적했습니다. 왜냐하면 그곳에 맞은 비행기는 돌아와 세어지지 않았기 때문입니다.
누락된 데이터, 탈락한 사람이나 사례는 종종 손에 쥔 데이터보다 더 중요합니다.
차트는 잉크로 쓴 논쟁이다
정직한 숫자가 불성실한 차트가 되는 네 가지 방법
정확한 데이터도 오도하도록 그릴 수 있습니다. 가장 흔한 시각적 트릭 4가지를 배워보세요.
- 축 절단(Truncated axis): 0이 아닌 0 이상의 값에서 시작하는 세로 축입니다. 50에서 52로 변하는 것이 차트의 전체를 채우며 거대해 보이지만, 실제로는 4%의 변화에 불과합니다.
- 이중 축(Dual axes): 서로 다른 두 개의 세로 축 스케일 위에 그려진 두 선분으로, 서로를 따라가는 것처럼 보이도록 조정됩니다. 이러한 상관관계는 데이터에서 발견된 것이 아니라 스케일 선택에 의해 조작된 것입니다.
- 선택적 범위(Cherry-picked range): 주장만 뒷받침하는 시간 창만 선택하는 것입니다. 온도나 가격 차트를 편리한 최고점이나 최저점에서 시작하면 추세가 뒤집힙니다.
- 면적-길이 왜곡(Area-vs-length distortion): 두 배의 값을 표시하기 위해 아이콘의 너비와 높이를 모두 확장하면 그 면적은 네 배가 됩니다. 눈은 면적을 읽으므로, 2배의 수치가 4배처럼 보입니다.
이 모든 것은 정확한 숫자를 사용합니다. 속임수는 데이터가 아니라 그림(표현 방식)에 있습니다.
제3의 변수
두 가지가 함께 움직입니다. 그래서 어때요?
두 측정이 함께 상승하고 하락할 때, 그것들은 상관관계가 있다고 합니다. 상관관계는 실재하며 유용하지만, 하나가 다른 하나를 원인으로 만든다는 것을 증명하지는 않습니다. 인과관계와 항상 경쟁하는 세 가지 무해한 설명이 있습니다:
- 역인과성(Reverse causation): B가 A를 일으킬 수 있으며, A가 B를 일으키는 것이 아닐 수 있습니다.
- 우연(Coincidence): 변수가 충분히 많으면, 일부는 순수한 우연으로 서로를 추적할 수 있습니다.
- 교란 변수(A confounder): 숨겨진 제3의 변수가 둘 다에 영향을 미칩니다.
고전적인 예시: 아이스크림 판매량이 익사 사망률과 상관관계가 있습니다. 아이스크림이 사람을 익사시키지는 않습니다. 교란 변수는 여름 더위로, 이는 아이스크림 판매량과 수영하는 사람의 수를 모두 증가시킵니다.
인과적 주장을 믿기 전에 교란 변수를 찾아야 합니다. 동시에 두 수치를 움직일 수 있는 제3의 것이 무엇일지 질문해 보세요.
의심론자의 체크리스트
마지막 한 가지 생각
이제 당신의 길을 가로지르는 모든 통계에 대해 사용할 수 있는 체크리스트를 갖추셨습니다:
1. 측정: 어떤 평균이며, 왜곡이나 이상치가 그 수치를 왜곡시키고 있는가?
2. 분산: 평균이 극심한 변동을 가리고 있는가?
3. 표본: 누가 조사 대상이었는가, 몇 명이었는가, 그리고 누가 누락되었는가?
4. 차트: 축이 어디에서 시작하는가, 그리고 범위가 선택적으로 고른 것 아닌가?
5. 주장: 이것이 상관관계를 인과관계로 포장하고 있는가, 그리고 이를 설명할 수 있는 교란 변수는 무엇인가?
정확한 숫자도 여전히 오해를 불러일으킬 수 있다. 숫자 자체가 논증의 전부는 아니다. 그 뒤에 숨겨진 선택들이 논증이다.