[김민형의 여담] 수학적 사고력은 타고나는가?

서울 동대문구 고등과학원 세미나실에서 열린 연구모임에서 칠판 위에 빼곡히 수식들을 채우며 기하학 난제를 풀고 있는 모습. <한겨레> 자료사진

김민형ㅣ워릭대 수학과 교수

수학 실력의 근원은 많은 사람들이 궁금해하는 바이다. 이미 답을 알고 있다고 믿는 사람들은 때로 자신은 재능이 없기 때문에 노력해도 소용없다는 극단적인 입장을 밝힌다. 이 정도로 비관적인 의견은 사실 우리나라보다 미국과 영국에서 많이 만나보았다. 우리 문화는 어떤 조건에서든 노력을 중시하는 반면 미국, 영국에서는 ‘수학은 재능 있는 아이들이나 하는 것’이라는 선입관이 강하다.

물론 사람이 가진 각종 특성과 능력에 유전의 영향이 나타나지만 타고난 요소들은 환경과 복잡하게 상호작용하기 때문에 한 개인의 궁극적인 형성 결과를 예측하기는 누구에게도 어렵다. 관측되는 다양성에 나타나는 유전의 영향을 정량화할 목적으로 과학자들은 ‘유전성’의 개념을 정의했다. 가령 유럽인의 머리색의 유전성이 61%에서 92% 사이라는 연구 결과들이 있고 어떤 논문들은 심각한 우울증의 유전성이 38%라고 주장하기도 한다.

유전성을 정확하게 정의할 때 사용되는 개념이 확률과 통계에서 만나는 ‘분산’이다. 주어진 표본의 측정값들이 퍼져 있는 정도를 나타내는 양이다. 값들이 평균 주위에 집중돼 있으면 분산이 작고 평균에서 먼 값들이 다양하게 나오면 분산이 크다는 것이 기본 직관인데 이것을 정량적으로 표현하는 것이다. 분산이란 실생활 데이터를 해석할 때 흔하게 등장한다. 가령 한 나라의 경제 상태를 분석할 때 경제 불평등에 대해서 관심 있다면 소득의 평균만 보아서는 아무 판단도 할 수 없다. 그러나 소득의 분산은 불평등의 척도가 될 수 있어서 분산이 평균에 비해서 작을수록 평등하다는 결론도 잠정적으로 가능하다.

유전성의 정확한 정의는 (유전 요소의 분산)/(측정값의 분산)으로 주어진다. 즉, 관찰되는 차이 중에 유전의 영향이 차지하는 비율을 나타내고자 하는 것이다. 가령 위에서 언급한 연구에 의하면 머리색의 다양성에 유전적 요소가 61~92% 작용하고 나머지는 환경 차이 때문에 일어난다는 것이다. 그런데 ‘수학적 사고력’은 머리색이나 특정한 질병에 비해서 훨씬 복잡한 현상이다. 그래서 유전적 효과에 대한 연구를 한다고 해도 믿을 만한 결과가 나온 경우는 내가 알기로 없다. 물론 편견에 따라서 특정한 방향으로 근거를 모으는 것은 가능할 것이다. 그러나 비판적 시각에서 캐물었을 때 살아남는 이론은 아직 없다. 지난해 10월 독일의 막스 플랑크 인지과학연구소에서 낸 논문에 우측 정수리 피질의 부피가 수학 능력과 상관관계가 높다고 하는 주장이 있다. 그런데 설사 그 주장이 맞다고 해도 그 연구자들에 의하면 실험 대상인들의 수학적 사고력 차이에 피질의 부피는 약 20% 정도 영향을 미친다고 한다. 그러면 우리, 혹은 우리 자녀가 수학을 배울 때 정수리 피질의 두께에 얼마나 신경써야 할까?

유전성의 정의를 보고 나서도 그 뜻을 정확하게 파악하기는 어렵다. 인구 표본의 키 같으면 평균, 분산 등을 쉽게 계산할 수 있어도 ‘수학적 사고력’의 분산은 어떻게 계산하는가? 가능한 방법은 특정한 수학 시험의 점수 분산을 계산하는 것이다. 그런데 연구에 사용하는 시험들이 수학적 사고력을 진정 대변하는가 물을 수 있음은 물론이다. 가령 지금까지 내가 들여다본 예시들은 해마다 많은 비판의 대상이 되는 한국 수능시험보다 훨씬 피상적으로 제작돼 있다는 것이 나의 판단이다. 유전 요소의 분산을 수로 표현하는 것 역시 상당히 어려워서 다양한 방법론이 존재하고 연구를 자세히 분석해야만 타당성을 검증할 수 있다. 즉, 유전성의 정의에 나오는 분모와 분자가 다 학술지에 게재되는 논문의 경우에도 얼마든지 비판의 대상이 될 수 있다는 것이다.

만약 수학적 사고력의 유전성이 80%라는 설득력 있는 연구 결과가 나온다면 독자는 어떻게 반응하겠는가? 훨씬 이해하기 쉬운 경우와 비교하면 판단에 도움이 될 것이다. 약간의 검색을 해보면 키의 유전성이 약 80%라는 자료를 많이 찾을 수 있다. 그런데 얼마 전에 웰컴 재단과 캐나다 정부의 지원으로 국제 보건에 대한 대대적인 데이터 수집 작업이 이루어져서 2016년에 학술지 <이라이프>(eLife)에 관련 논문이 게재되었다. 거기에 의하면 한국 여성 키의 평균은 1914년에서 2014년 사이 약 20㎝ 커졌다고 한다. 즉, 유전의 효과가 80%인 상황에서도 환경은 상식적으로 엄청나다고 할 만한 차이를 낼 수 있다는 결론이 가능하다. 그렇다면 아무도 믿을 만하게 측정해본 일이 없는 수학적 사고의 유전성에 대해서 공부하는 개인은 얼마나 고민해야 할까? 각자의 판단에 맡긴다.