빼곡한 함수 속 공간을 보는 ‘매직아이’

[미래를 여는 첨단과학] ② 현대기하학

황준묵 교수에게 듣는 현대기하학

인터뷰를 하는 동안 머릿속은 하얗고 어지러웠다. 고교 시절의 빛바랜 수학 지식으로 현대기하학을 설명하는 그의 말을 따라가기는 애초부터 불가능했던 일이었다.올해 국가과학자로 선정된 복소기하학 분야의 권위자 황준묵 고등과학원 교수를 지난 5월부터 네 차례 만나 얘기를 나눴지만 벽은 여전히 높았다. 하지만 인터뷰 내내 수학자의 순수한 열정을 읽을 수 있었고, 또 그런 열정이 인간의 사고혁명이 어디까지 가능할지 가늠하려는 지적인 상상 놀이에 닿아 있음을 느낄 수 있었다. 우리가 모르는 사이에 수학과 기하학에서 커다란 사고혁명이, 수와 함수 세계와 연결된 ‘공간’ 개념의 혁명이 이뤄져 왔음을 전해들을 때는 자못 흥미진진하기도 했다.

현대기하학이 난해해졌다 해도, 대부분 사람들은 그것을 점, 선, 면, 공간과 도형의 과학쯤으로 여기지 않을까? 하지만 그것은 유클리드 기하학의 흔적이었을 뿐이었다. 현대기하학은 이미 19세기에 유클리드 기하학에서 벗어났다. 유클리드 기하학이 우리가 경험하는 점, 선, 면, 공간을 다룬다면, 현대기하학은 ‘공간’ 그 자체, 또는 공간과 잇닿은 함수의 세계에서 발전하고 있었다. 슈퍼컴퓨터를 동원해야 할 정도로 복잡해진 함수 계산식만큼이나 함수들의 공간은 이미 상상하기 힘든 공간이 되었으며 그곳은 심지어 무한차원의 세계이기도 했다.

-인터뷰를 준비하며 살펴보니 현대기하학에선 도형 얘기보다 함수 얘기가 더 많네요. 어찌된 일인지요?

“17세기에 미적분이 발견된 뒤 수학자들은 새로 생겨난 수많은 함수 계산식들을 연구했습니다. 계산은 더 복잡해졌어요. 타원적분이 발견되자, 수학자들은 우리가 모르는 함수가 얼마나 많았던가 하며, 숨은 함수들을 찾아 그 성질을 연구하는 붐을 일으켰습니다. 18세기에 그것은 아주 매력적인 도전이었겠죠. 수의 세계엔 그때까지 몰랐던 너무나 많은 규칙성들이 숨어 있었고, 그런 규칙성의 함수들은 주요 주제가 되었어요. 하지만 함수들이 이토록 많다는 사실이 드러나자 새로운 문제에 직면하게 됐지요. 복잡해진 함수 계산의 어려움은 19세기에 가장 골치 아픈 과제가 됐지요. 이런 난제를 리만(1826~1866)이라는 독일 수학자가 풀었는데, 그것이 바로 현대기하학의 탄생 배경이지요.”

수의 세계 풀이과정서 탄생
수학 내부 발전에 크게 기여
중력이론·끈이론에도 영향

-함수론이 배경이 됐군요. 그런데 공간과 어떤 관련이 있다는 거지요?

“리만은 계산을 반복하지 않고도 기하학적 개념을 써서 난해한 함수 계산식을 푸는 방법을 제시했던 거죠. 그 복잡한 함수들이 어떤 기하학적 공간에 정의돼 있다고 생각해보죠. 그렇게 보면 함수의 많은 성질들이 사실은 그 공간의 기하학적인 성질에서 비롯한다는 거예요. 어떤 함수가 정의된 공간을 보면, 어떤 기하학적인 이유 때문에 그 함수는 애초부터 풀 수 없는 함수라는 사실도 알 수 있고, 또 함수를 푸는 지름길을 찾을 수 있다는 겁니다. 그러니 함수의 성질이 서로 다르다는 말은, 그런 함수들이 노는 공간의 모양이 다르다는 뜻이기도 하지요.”

공간혁명

우리가 보고 만지는 3차원 공간의 개념으로는 생각하지 못했던 새로운 공간이 현대기하학에서 발견됐다. 그러니 현대기하학을 ‘공간에 관한 사고혁명’이라고 풀이해도 지나친 말은 아닌 것 같았다. 수학의 혁명은 물리학으로 이어졌고, 아인슈타인의 중력이론과 요즘 이론물리학의 끈이론은 그 영향을 받은 사례들이 됐다.

-현대기하학이 다른 과학에 끼친 영향엔 어떤 게 있습니까?

“아인슈타인의 중력이론은 이런 기하학적 사고혁명이 없었다면 불가능했다고들 말하지요. 또 우주 만물의 근원을 탐구하는 끈이론은 복소기하학과 관련이 매우 깊고요. 하지만 제가 강조하고 싶은 건 이런 응용보다 수학 내부의 발전에 끼친 영향이 더 크다는 겁니다.”

-그림이 하나 생각나요. 무거운 천체가 놓인 공간은 움푹 들어간 웅덩이처럼 그려지고 그 둘레에 행성들이 궤도운동을 하는 그림인데요, 사실 이렇게 ‘휜 공간’은 우리 눈에는 비치지 않는 공간이잖아요. 이런 점에서 ‘시공간이 휘어져 있다’고 보는 아인슈타인의 중력이론이 리만의 영향을 받았다고 하는 건가요?

“그렇지요. 아인슈타인이 리만의 영향을 받았다는 건 확실해요.”

수와 함수의 시각화에 성공
공간에 대한 ‘사고혁명’ 이뤄
4차원넘어 ‘무한차원’ 연구도

-결국은 현대기하학이 이룬 사고혁명은 ‘수와 함수의 세계를 시각화하고 차원을 확장한 것’이라고 말할 수 있을까요?

”네, 그렇게 말할 수 있어요.”

공상과학의 단골 소재인 ‘차원’ 이야기는 일반인한테도 관심을 끄는 대목이다. 끈이론이 세상을 11차원, 12차원으로 해석하듯이, 이론과학에서는 이제 ‘차원의 구속’에서 한참 벗어나 있다. 3차원 세상에 살면서 어떻게 이처럼 차원의 구속에서 해방될 수 있을까? 그것은 세상을 설명하는 함수들을 공간으로 시각화할 수 있었던 덕분이었다.

-이제 우리는 심지어 11차원까지도 생각할 수 있게 됐지요.

“‘심지어’라는 말은 수학자들이 보기에 우스운 표현이에요. 무한차원을 연구하는 사람도 있는데요. 무한차원은 조금 특이한 거고, 흔히 임의의 차원을 다루지요. 수학에선 3차원까지 잘 이해돼 있고, 그 이상은 특별히 어느 차원이 더 쉽고 더 어렵고 그런 게 없어요.”

-11차원, 12차원 이런 걸 어떻게 생각해낼 수 있는지 궁금해요.

“제가 자세히는 모르지만…, 먼저 운동이 일어나는 4차원의 시공간 있겠고요, 거기에다 중력이나 전자기력 같은 우주의 기본 힘들을 기술하기 위해선 다른 방향이 있어야 한다는 것이거든요. 그 다른 방향이라는 게 복소기하학의 공간인 복소다양체예요. 3차원 복소다양체(복소수 공간에선 3차원, 실수 공간에선 6차원)가 물리학자한테는 중요하지요. 그래서 처음에 나온 끈이론이 10차원이었던 거죠. 요즘엔 여기에 더해 11차원, 12차원이 나오고 있지만요.”

경험과 추상

그가 말하는 공간은 우리가 경험하는 공간과 너무 달라 보였다. 그가 말하는 공간은 함수 계산을 간편화하는 데 쓰는 생각의 틀일 뿐 아닐까? 하지만 그는 기하학적 공간은 실재하는 공간이라고 강조했다. 소리와 빛으로 공간을 지각하는 박쥐와 사람의 방식이 다르듯이, 우리 감각으로 다 포착하지 못하는 새로운 공간의 성질이 존재한다는 것이다.

-현대기하학은 복잡해진 함수들을 단순화해 파악하는 생각의 틀이라고 말할 수도 있나요?

“기하학자들 중에서 그렇게 생각하는 사람은 없을 거예요. 생각의 틀이 아니라 그게 실체라고 보죠. 사람들은 그 공간의 일부만 보고 얘기하는 거거든요. 복소기하학의 공간은 인간이 만들어낸 관념이 아니라 그냥 있는 것이고 우리가 많은 노력을 기울여 발견한 것이지요.”

상상 아닌 ‘실재하는 공간’
일반적 상식으론 ‘아리송’
수의 언어 익혀야 경험가능

-그렇더라도 우리가 경험하는 공간이 3차원 이상이라고 이해하기는 쉽지 않아요.

“만일 기하학을 배우지 않은 오지의 사람들이 있다면 우리와 전혀 다르게 세상의 공간을 볼 거에요. 3차원 공간은 우리가 배워 아는 개념이고, 실재라는 것도 우리 감각기관의 반응으로 세상을 그렇게 해석하는 것이지요. 이건 철학적인 문제인데…(웃음). 물리적 실재 공간은 우리가 많이 사용해 친숙할 뿐이죠. 만일 초등학교 때부터 복소기하학을 배우면 공간 인식이 전혀 다를 것이고, 제가 말하는 공간이 실재한다고 생각하며 살 거에요. 수학자들은 날마다 그 공간에 들어가 공부하는데, 다만 그것이 시각·촉각이 아니라 머릿속에서 구성된다는 게 다르죠. 아무래도 이건 철학 문제 같아요.”

기하학 하는 재미

그는 “기하학은 흥미진진한 상상” “날마다 아름다운 공간에 들어가 논다”라고도 말한다. 그런 즐거움을 함께 느낄 수 없는 건 아쉬움이었다.

-일반 시민은 설명을 들어도 그런 그림을 머릿속에 어렴풋하게도 그리지 못하는데, 왜 그럴까요?

“왜냐면 그림을 보는 연습을 많이 해야 하거든요. 말로는 아무리 얘기해도 어려워요. 예를 들어 갓난아기가 처음에 어떻게 그림을 익히겠어요. 그림을 계속 봐야지요, 말로만 아무리 가르쳐도 안 돼요. 수학에서도 그림을 보는 유일한 방법은 자기가 직접 해보는 수밖에 없거든요.”

-교수님도 기하학을 처음 배운 시절이 있었고 그때엔 지금처럼 상상을 하지 못했을 테지요.

“처음엔 어렵죠. 앉아서 책만 읽어선 절대 안 돼요. 수학식을 쓰며 따라 가보고, 그러면서 그려보죠. 그런 일을 되풀이하다 보면 어느 순간 그림이 딱 떠올라요. ‘매직아이’라고 혹시 아세요. 아무리 들여다봐도 안 보이다가 어느 순간에 딱 보이죠.”

-수학을 배우는 단계에선 그런 재미를 느끼기 힘들겠군요.

“얼마 전 학생들한테 이런 얘기를 해주었어요. 대학 때까지 배우는 것 대부분은 제가 생각해도 재미없다는 것이죠. 배우는 학생들은 수학의 진짜 재미를 알기 힘들다는 게 늘 아쉬워요. 문법 교육만 받는 셈이죠. 저도 대학에 진학하고 나서야 수학이 재밌다는 걸 알게 됐고, 그래서 대학원에서 수학으로 전공을 바꿨지요. 배우고 또 배우다 보면 머릿속에서 그림들이 더 늘어나니까 재미도 더 늘어나지요. 하지만 문법을 배워야 소설을 쓸 수 있듯이, 수학의 언어를 배워야 이런 상상도 가능하겠지요.”

글·사진 오철우 기자 [e-mail]

사진 이종찬 선임기자 [e-mail]

■ 황준묵 교수는 누구?

40여년 동안 풀리지 않았던 현대기하학의 난제였던 ‘변형불변성의 증명’을 푼 것(1997~2005)을 비롯해 여러 수학 업적으로 국제적 명성을 얻었다. 2006년 수학계의 최고 권위를 지닌 국제수학자대회(ICM)에서 한국 수학자로선 처음으로 연사로 초청돼 강연했다. 요즘엔 주로 미분기하학과 대수기하학을 융합하는 수학적 방법을 연구 중이다. 아버지는 가야금 연주자 황병기씨이며 어머니는 소설가 한말숙씨다. △고등과학원 수학부 교수 △미국 하버드대학 박사 △국가과학자(2010), 대한민국최고과학기술인상(2006)