“수학의 즐거움, 불가능함 밝히는 ‘증명의 통쾌함’에 있죠”

지구촌 수학자들이 한자리에 모이는 세계수학자대회에서 한국인으로는 처음으로 기조강연을 하는 황준묵 고등과학원 교수가 수학 문제 풀이가 가득한 연구실 칠판 앞에서 수학 하기의 즐거움과 아름다움에 관해 얘기하고 있다. 오철우 기자

[한겨레가 만난 사람] 세계수학자대회 기조강연하는 황준묵 교수

지구촌의 수학 지성들이 오는 8월 서울에 모인다. 저명하거나 무명이거나, 신진이거나 노장이거나, 선진국과 개도국의 수학자 5000여명이 한자리에 모여 오늘날 수학의 성과를 나누며 풀어야 할 난제를 탐색하고 논의하는 세계수학자대회(ICM)가 8월13일 서울에서 개막한다. 1897년 첫 대회 이후 세계 수학을 대표해온 이 대회는 서울에서 제27회를 맞는다. ‘노벨 수학상’이라 불리는 필즈상의 수상자가 발표되고 시상식이 열려 세계의 이목이 쏠리는 자리이기도 하다.

이 대회에서 전체 참석자를 대상으로 하는 기조강연자로 선정된 황준묵 고등과학원 교수를 지난 4일 연구실에서 만나 수학과 수학자대회에 관한 얘기를 들었다. 기조강연은 한국인 수학자로서는 처음이다. 황 교수는 미국 하버드대학에서 박사학위를 받고 서울대 교수를 거쳐 15년째 연구에 전념하는 고등과학원 교수로 재직하고 있다. 난해한 복소기하학을 연구하는 그는 2010년 ‘국가과학자’로 선정됐다. 인터뷰에서 그는 순수 수학의 기쁨과 가치는 결과보다 과정에 있다고 거듭 강조한다. 문제 풀이와 증명의 통쾌함과 아름다움에 빠져 사는 수학자의 수학은 어떤 모습일까?

-세계수학자대회에 기조강연자로 초청받으신 걸 축하드린다. 한국 수학자의 기조강연은 처음이라고 들었다.

“수학자대회에서 200여명 정도 초청강연을 하는데, 20명 정도가 참가자 전체를 대상으로 하는 기조강연을 하고 나머지는 전문 분야별 분과강연을 한다. 이번 대회에 한국 수학자로는 기조강연 1명과 분과강연 5명이 초청받았다. 한국인으로는 처음 기조강연을 하게 돼 부담이 무척 크다.”

-강연자로 초청받는다는 게 어떤 의미인가?

“수학자대회에서 강연한다는 건 대단한 영광이다. 한국 수학자가 분과강연에 처음 초청된 것이 2006년 스페인 대회로, 나와 오용근 교수, 김정한 교수가 초청받았다. 종종 올림픽과 비교해 말하곤 하는데, 분과강연 초청은 그 종목(분과)에서 금메달을 받는 영광 정도로 여길 수 있다.”

-한국 수학의 위상이 아주 낮진 않을 텐데 2006년 이전엔 왜 강연 초청이 없었을까?

“초청강연자는 선정위원회가 정한다. 선정 과정은 로비를 막기 위해 극비로 이뤄지며 선정위원 명단도 개막식까지 비밀이다. 그래서 왜 그동안 한국 수학자가 강연자로 선정되지 못했는지 알 길이 없다. 다만, 2006년 첫 초청강연자가 나온 뒤 2010년 인도 대회에선 박종일 교수, 오희 교수가 분과강연자로 초청됐다. 2014년 서울 대회에선 6명으로 늘어났다. 한국 수학의 위상이 그만큼 높아졌음을 말해준다.”

황 교수가 말했듯이 한국은 2002년 대회 때까지 “세계 수학계에서 잘 보이지 않는 나라”였다. 그러다가 2000년대 중반 이후 한국 수학의 위상은 가파른 상승세를 보여주었다. 2006년 대회에 3명의 초청강연자가 나왔으며, 2007년엔 국제수학연맹(IMU)이 한국 수학의 회원국 지위를 당시 ‘2단계(Ⅱ)’에서 ‘4단계(Ⅳ)’ 그룹으로 2등급이나 상향 조정했다. 국내 수학자들은 ‘2등급 상향’을 큰 사건으로 여긴다. 등급 상승에 힘입어 박형주 포스텍 교수(서울 세계수학자대회 조직위원장)를 비롯해 수학자들이 적극 나서고 국제사회도 호응해 2009년 세계수학자대회의 서울 개최 결정을 이끌어냈다.

-기조강연자 선정 소식을 처음 들었을 때 어떤 느낌이었는지?

“대단한 영광이다. 그런데 2006년 분과강연 초청을 받았을 때가 더 기뻤다. 그때도 이메일로 소식을 받았는데 꿈만 같았고 누가 장난하는 건 아닐까 하는 생각마저 들었다. 기조강연은 훨씬 더 큰 영광이지만 사실 기쁨에 앞서 책임감이 크다. 자기 분야를 대표해야 하고, 특히 이번엔 개최국의 수학자로서도 책임감이 크다.”

-기조강연엔 어떤 내용을 담을지 구상한 게 있나?

“한 시간 동안 강연한다. 처음엔 내 분야의 최근 연구를 개괄할까 생각해 준비해왔다. 그런데 얼마 전 계획을 바꿨다. 연구결과를 나열하는 것 말고 핵심 개념 한두 개에 집중해 여러 예를 들면서 강연할까 한다. 물론 내가 하는 복소기하학 분야에 관한 강연이다.”

그는 “3월까지 원고를 제출하고 5월까지 강연용 프레젠테이션을 넘겨야 한다”며 지금은 정신없이 바쁜 시기라고 말했다. “좋은 아이디어만 잡히면 원고는 몇 주 안에 쓸 수 있을 텐데, 확실한 아이디어의 영감을 얻지 못하고 있네요.”

그에게 수학을 한다는 것의 의미를 물었다. 수학은 인류 문명에서 늘 중요한 역할을 해왔고, 현대에선 쓰임새가 더욱 넓어지고 있다. 컴퓨터공학은 물론이고 물리학과 우주론에서 수학은 없어선 안 될 지식의 도구다. 요즘엔 생물학에서도 금융계에서도 중요하다. 여러 방면에 쓰이는 응용수학과 달리, 황 교수가 업으로 삼아 연구하는 순수수학은 어떤 것일까?

-널리 쓰이는 응용수학과 비교해, 수학 자체에 매달리는 직업 수학자의 정체성은 어떤 것일지?

“말씀대로 많은 과학자, 공학자들이 수학을 한다. 연구 과정에서 어느 정도 단계를 넘으면 전문적인 수학과 연결되곤 한다. 여러 분야에 응용되는 수학과 비교하면, 직업 수학자는 대체로 ‘기초 수학’을 한다는 점이 다르다. 응용수학에서는 알려진 이론을 실제 모델에 적용하는 데 중점을 두지만, 순수수학은 아직 이해되지 않은 이론에 더 큰 관심을 기울인다. 물론 응용수학과 순수수학이 겹치는 부분도 아주 많지만.”

8월 서울서 열리는 수학자대회
한국인 첫 기조강연 영광 얻어
우리 수학의 높아진 위상에 뿌듯

혁신적 생각 발전시키려 택한 수학
증명 안되는 문제 풀이 난제 많지만
깨끗하게 정리되는 아름다움에 빠져

황병기·한말숙 부모님 덕분에
스토리텔링 익숙해 연구에도 도움

-어떤 성격의 문제에 관심을 기울이는가?

“한마디로 말하기 어렵지만, 순수수학이 중시하는 문제는 응용과 무관한 게 많다. 대표적인 예로, 불가능함과 존재하지 않음을 증명하는 데에 순수수학은 많은 관심을 기울인다. 예컨대 ‘√2는 유리수가 아니다’라는 명제가 있다. ‘유리수 표현이 존재하지 않음’을 증명하는 문제인데, 이런 부정적인 결과는 어디에 써먹을 수 있는 게 아니다. 그래도 수학자한테는 매우 중요한 문제다. 고대 그리스 수학이 이룬 가장 중요한 명제를 꼽으라면 바로 이것일 것이다. 수학에선 이처럼 ‘불가능함’ ‘존재하지 않음’ 같은 부정적인 논증이 훨씬 더 큰 깊이를 지닌다.”

-예를 들면?

“고대 그리스 수학에서 제기된 문제로 ‘눈금 없는 자와 컴퍼스만을 써서 주어진 각도를 3등분하는 방법을 찾으라’는 오랜 난제가 있는데, 19세기에 ‘그런 방법은 없음’이 증명됐다. 무언가를 할 수 없음을 증명하는 것은 사실 수학을 응용하는 입장에서 보면 쓸모가 없는 일이다. 또 다른 예로 페르마의 문제도 그렇다. ‘어떤 방정식의 해는 존재하지 않는다’는 식의 문제인데, 300년 훨씬 넘은 오랜 문제로 유명했다. 1990년대에 비로소 증명돼 ‘세기의 증명’으로 불렸다. 어떤 방정식에 해가 없음을 증명한 뒤에 응용하는 것이나 그냥 해가 없다고 믿고 응용하는 것이나 수학을 응용하는 데에선 별 차이가 없지만, 증명되지 않은 명제는 수학자들한테 참을 수 없는 존재다.”

-그런데도 이런 문제 풀이에 관심을 기울이는 이유는 뭘까?

“증명 과정에서 이전 수학과는 차원이 다른 새로운 수학이 도입되곤 한다. 증명 과정에서 얻은 것은 다른 수학에도 영향을 주고, 나중에 쓸모 있는 것을 만들어내기도 한다. 그런 증명 과정에서 수학자들은 어떤 통쾌함을 느낀다. 무언가 너저분한 것을 다 잡아 없애고 깨끗하게 정리한 느낌을 얻곤 한다. ‘우아함’(엘레강스) 같은 느낌이랄까, 어떤 아름다움을 느낀다. 사실 ‘없음’보다 더 큰 아름다움은 없지 않나?(웃음)”

황 교수는 애초 물리학자를 꿈꾸었으나 대학에서 물리학을 공부하다가 수학으로 학문의 길을 바꾸었다. 그는 “혁신적인 생각을 발전시킬 수 있는 공부를 하고 싶었다”며 “수학이 그런 지적 욕구를 채워줄 수 있다고 생각했다”고 말했다.

-혁신적인 생각을 아무나 하긴 힘들다. 수학의 언어를 능수능란하게 구사하는 수준이 되고 난 뒤에나 가능하지 않을까?

“능수능란해야 문제를 풀 수 있다기보다는 문제 풀이에 골몰하면서 능수능란해진다고 생각한다. 미국에서 대학원 생활을 할 때 굉장히 어려운 문제에 도전했다. 지금도 못 푸는 난제다. 지도교수가 이 문제를 풀어 박사학위 논문을 써보라면서 던져준 문제다. 어떻게 풀지 몇년간 생각했다. 밑바닥에서 도전하는 과정이었다. 결국 문제는 못 풀었지만 거기에서 얻은 아이디어로 연관된 문제를 풀어 학위 논문을 완성했다. 당시 3~4년 동안 아무런 진전도 없이 문제 풀이만 생각했다. 요즘에는 그런 경험의 기회를 학생들에게 주질 않는 것 같다. 학술지에 논문을 발표해야 학위를 주는 풍토이니, 접근방법이 잘 알려진 문제만을 다룬다. (풀 수 없는 문제에 도전할 기회를 얻었던) 나는 운이 좋은 편이다.”

-‘가야금 명인 황병기 선생과 소설가 한말숙 선생의 아들’이라는 수식어가 늘 따라다닌다. 예술이 수학에 영향을 준 바는 없는지?

“요즘 와서 생각하면 내가 수학에서 상대적으로 스토리텔링에 익숙한데 부모님 덕을 본 게 아닌가 하는 생각도 들곤 한다. 요즘에도 틈틈이 소설을 읽는다. 주인공의 마음속에 들어가 세상을 다른 눈으로 볼 수 있는데 영화를 통해선 얻을 수 없는 경험이다. 연구에도 긍정적 영향이 있는 것 같다. 또한 소설을 통해 의식의 흐름을 따라가게 되는데 사실 수학에서도 그건 중요하다. 남의 논문을 볼 때에는 저자의 의식 흐름을 읽어야 어떻게 그런 발견에 이르게 됐는지 이해할 수 있고, 내 연구를 발표할 때 청중의 의식 흐름을 좇아야 아이디어를 제대로 전달할 수 있다.”

-흥미로운 얘기를 많이 들었다. 한국 사회에서 요즘 수학의 상황은 어떤가?

“최근 몇 년 동안 서울대, 카이스트, 포스텍 같은 대학에서 수학과에 최상위권 학생들이 많이 지원한다고 들었다. 수학과가 이렇게 인기 높았던 적은 없었다고 하는데 수학계에서도 그 이유를 궁금해하고 있다. 수학자대회의 서울 개최도 그렇고, 요즘 희망을 본다.”

인터뷰/ 오철우 기자 [e-mail]