[신형범의 千글자]...법정에 선 수학

금발을 묶어 늘어뜨린 백인 여자, 턱수염을 기른 흑인 남자, 그리고 노란색 자동차. 1964년 미국 LA에서 강도 사건이 벌어졌을 때 목격자들이 기억해낸 범인의 모습입니다. 경찰은 목격자들의 진술과 비슷한 부부를 붙잡았지만 결정적 증거는 찾지 못했습니다.

그때 검사가 증거를 들이밀었습니다. 금발에 묶은 머리 백인 여자 확률, 턱수염 난 흑인 남자 확률, 노란 자동차를 탔을 확률을 각각 산출해 곱했더니 무려 1200만분의 1. 이런 특징을 모두 갖춘 남녀가 또 있을 가능성은 거의 없으니 붙잡힌 부부가 범인이라는 논리입니다. 배심원들은 유죄 판결을 내렸습니다.
그런데 검사가 계산한 숫자에는 문제가 있습니다. 노란 자동차는 ‘열 대 중 한 대쯤’처럼 제대로 조사하지 않은 값을 사용했습니다. 아무리 곱셈 계산이 정확해도 처음 넣은 숫자가 엉터리라면 답도 엉터리입니다. 훗날 캘리포니아주 대법원은 이런 확률 계산의 오류를 문제삼아 유죄판결을 뒤집었습니다.

1970년대 미국 UC버클리 대학원 입학 자료를 보면 남자 지원자의 합격률은 약 44%, 여자는 35%였습니다. 전체 숫자만 보면 여자가 불리한 대우를 받은 것처럼 보입니다. 그런데 학과별로 나눠 보니까 이야기가 달라졌습니다. 여자들은 원래 합격률이 낮은 학과에 더 많이 지원했고 남자들은 상대적으로 합격률이 높은 학과에 많이 지원했습니다. 이를 학과 구분 없이 전체 데이터로 합치니까 여성 합격률이 낮게 나타난 것입니다.

레이라 슈넵스와 콜랄라 콜메즈, 수학자 모녀가 쓴 《법정에 선 수학》에는 이런 사례처럼 숫자가 중요한 역할을 한 열 가지 실제 사건이 소개됩니다. 살인사건부터 DNA검사, 필적 감정, 대학입학까지 다양합니다. 영국의 샐리 클라크는 어린 두 아들을 연달아 잃은 뒤 오히려 아이들을 죽인 범인으로 몰렸습니다. 재판에서 두 아이가 모두 자연스럽게 숨질 가능성이 7300만분의 1이라는 주장이 나왔습니다. 하지만 형제는 유전적 특징이 비슷하고 생활환경도 크게 다르지 않습니다. 두 사건을 전혀 상관없는 일처럼 계산한 것이 문제였습니다. 뒤늦게 둘째 아이에게 심각한 세균 감염이 있었다는 기록이 발견되었고 샐리에게는 무죄가 선고됐지만 이미 3년 넘게 감옥살이를 한 후였습니다.
우리는 일상에서 ‘합격률 90%’ ‘만족도 1위’ ‘수익률 20%’ 같은 숫자를 늘 만납니다. 숫자가 붙으면 왠지 믿음이 갑니다. 하지만 숫자가 제시되는 순간 “그러면 틀림없겠네”라고 생각하기 전에 “잠깐, 그 숫자는 어떻게 나온 거지?”라고 따져봐야 합니다. 우리가 수학을 배우는 이유도 눈 앞의 숫자가 무엇을 뜻하는지 들여다보는 안목을 키우기 위해서입니다. ^^*

[비욘드포스트 이순곤 기자] sglee640@beyondpost.co.kr