[김민형의 여담] 수학적 이해는 어디서 오는가

어려운 수학 논문을 읽는 데에는 큰 고통이 따른다. 많은 수학자는 그 고통이 몸에 전해지기도 한다고 말한다. <한겨레> 자료사진

김민형｜에든버러 국제수리과학연구소장

독일 작가 토마스 만의 <뒤바뀐 몸과 머리>는 인도의 힌두교 우화 형식을 따라서 쓰여진 중편 소설이다. 주인공은 머리가 좋지만 몸이 약한 슈리다만과 그의 친구, 튼튼한 몸의 소유자이면서 우둔한 난다 등 두 사람이다. 그들은 한 여인 시타를 사랑하지만 그녀는 고민 끝에 점잖은 슈리다만을 남편으로 택하게 된다. 사랑과 질투의 고통에 시달리다가 두 남자 다 스스로의 머리를 칼로 베어 자살한다. 슬픔에 잠긴 시타 앞에 여신 칼리가 나타나서 머리들을 다시 몸에 붙여주지만 시타의 실수로 머리가 바뀌어버린다. 그래서 한 사람은 슈리다만의 머리와 난다의 몸을 가진 완벽한 남자가 된다. 시타는 양쪽의 장점만 갖춘 남편을 찾은 기쁨을 단기간 누리지만, 결국 머리와 몸이 서로에게 영향을 미쳐서 머리는 다소 둔해지고 몸은 약해지면서 이야기는 또 복잡해진다.

수학적 이해는 어디서 나오는가? 최근 음악가와의 대화에서 이 문제를 다루었다. 경험을 근거로 판단하자면 수학적 이해의 순간은 뇌의 작용만으로 설명하기 어렵다. 그분도 음악의 물질적 본성에 관심이 많기 때문에 이 주제를 두고 한동안 비교 논의할 수 있었다. 음악의 신체적인 경험은 다양하게 일어나지만 음악의 기본적인 원동력, 화음과 비화음 사이의 긴장감은 늘 중요한 역할을 한다. 적어도 18~19세기의 음악은 짜임새 있는 비화음의 순열이 회음으로 해소되는 과정을 통해서 작품의 기본 골격이 갖추어지는데, 그런 상호작용의 효과는 다분히 몸으로 느끼는 것이다. 다소 엉뚱하더라도 수학을 공부하면서 이해 못하는 경험을 불협화음과 비교하는 것이 큰 무리는 아닌 것 같다. 단지 긴장과 그 해소가 음악을 들을 때에 비해서 훨씬 과격할 때가 많아서 고통과 희열로 표현하는 것이 더 타당할 수도 있다. 어려운 논리가 고통스러운 것은 어린 학생에게나 수학자에게나 마찬가지다. 특히 어려운 연구 논문을 읽는 것은 너무나 큰 고통이기 때문에 대부분 수학자들은 대화를 활용해서 배움의 오르막길을 완화하려는 노력을 한다. 그래서 파생되는 활동이 학회나 연구 세미나 등이다. 어쨌든 어려운 수학의 고통이 몸에 전해지는 것은 많은 수학자의 공통된 경험이다. 이해가 안 될 때의 불편은 몸의 평형이 깨진 것 같은 느낌을 수반하고 이해란 일종의 평정을 (때로는 극적으로) 되찾는 과정이기도 하다.

올해 부커상 최종 후보에 올랐던 벤하민 라바투트의 다큐소설 <세상의 이해를 포기할 때>를 읽으면서 위와 같은 생각들이 떠올랐다. 과학과 기술에 대한 평범한 회의론이 책의 주제이다. 그래서 불편할 정도로 혁신적인 이론을 제시한 물리학자, 화학자가 다수 출현한다. 아우슈비츠에서 사용된 독가스, 혹은 화학무기나 원자폭탄같이 잘 알려진 괴물들이 자주 언급되지만 더 추상적이고 기이한 에피소드들도 여기저기 나온다. 가령 블랙홀의 가능성을 처음 수학적으로 제시한 슈바르츠실트의 노이로제, 그리고 하이젠베르크와 슈뢰딩거 사이의 개인적이고 이론적인 갈등이 꽤 많은 분량을 차지한다. 그런데 이 책은 모든 문제의 핵심을 수학에서 찾는다는 점이 특이하다. 특히 기이한 수학자 두명을 다룸으로써 수학의 중심적인 역할을 부각시킨다. 한명은 1960년대에 기하학의 기반을 완전히 추상적으로 바꿔놓은 프랑스의 수학자 알렉산더 그로텐디크이고, 또 한명은 수학 난제인 ‘에이비시(ABC) 추측’ 증명 논란에 휩싸인 인물 일본의 수학자 모치즈키 신이치이다. 수학의 중요성은 ‘밤의 정원사’라는 제목의 마지막 장에서 해명된다. 수학자 출신의 정원사에 의하면 ‘핵무기, 컴퓨터, 생화학 전쟁, 기후변화 등은 이차적인 현상이고 실제로 세상을 돌이킬 수 없게 바꾸는 것은 수학’이다. 그래서 ‘기껏해야 몇십년 후면 인간성이 상실될 것’이라고 걱정한 나머지 그는 모든 것을 버리고 은둔생활을 하며 아무에게도 해가 되지 않게끔 나무들까지 잠자는 밤에 조용하게 정원을 가꾸며 산다고 설명한다.

우리말로 ‘마음’이라고 부르는 개념은 아리스토텔레스의 <동물 부분론>을 연상시킨다. 그는 지성의 원천이 심장에 있다고 생각한 반면, 뇌는 몸의 온도를 제어하는 일종의 라디에이터처럼 묘사했다. ‘마음’은 지성과 감성의 경계를 모호하게 상정하는 관점을 표현한다. 아리스토텔레스나 토마스 만과 달리, 라바투트는 지성을 신체나 자연과 동떨어진 객체로 생각하는 경향이 강하다. 라바투트처럼 수학을 ‘비인간적인 이성’의 영역으로 여기는 사람들은 사실 과학자들 사이에서도 적지 않다. 나는 그들에게 제안하고 싶다. 수학은 뇌가 아니라 마음으로 이해하는 것이라고. 그리고 ‘이해’란 우리의 마음과 나머지 세상 사이의 평형을 찾는 과정이라고.