[김민형의 여담] 특이한 수학자의 노벨상

2020년 노벨 물리학상을 받은 로저 펜로즈가 지난 6일 영국 옥스퍼드대에서 포즈를 취하고 있다. AP 연합뉴스

김민형 ㅣ 워릭대 수학과 교수

해마다 이맘때 주어지는 노벨상 중에 수학상은 없다. 따라서 수학자들은 수학의 다면성을 선전하려는 목적으로 타 분야의 노벨상을 받은 수학자 이야기를 들먹일 때가 가끔 있다. 이런 인물 중에 어쩌면 영화 <뷰티풀 마인드>의 소재가 되었던 존 내시가 가장 유명할 것이다. 그는 1950년에 제출한 수학 박사학위 논문에서 임의의 경쟁 게임이 주어지면 평형 상태를 이루는 확률적 전략이 존재함을 보였다. 이 논문에서 지금은 ‘내시 평형’이라고 알려진 개념을 정의했는데, 시간이 지나면서 20세기 경제학의 가장 중요한 개념 중 하나로 인정받아서 1994년에 노벨 경제학상을 수상했다.

몇주 전에 물리학상을 받은 옥스퍼드대의 수학 명예교수 로저 펜로즈는 일생 동안 수학자였고 그의 주 연구 결과도 물질적 세계에 파급 효과를 수반하는 엄밀하고 깊이 있는 수학적 정리이다. 물론 현대이론물리학은 항상 수학과 밀접한 관계를 유지하면서 발전하지만 펜로즈의 연구만큼 수학이 중심적이었던 사례가 노벨상 수상자의 업적 중에는 없었던 것 같다. (학자의 분야를 가리는 것이 딱히 의미 있는 일은 물론 아니다.)

펜로즈의 가장 중요한 업적은 블랙홀의 존재를 예측하는 ‘특이점 정리’이다. 여기서 특이점이란 블랙홀의 중심을 이야기한다. 조금 더 엄밀하게 이야기하자면 시공간 경로를 따라가는 물질이 시간이 끊기는 현상을 마주하는 이상한 지점이다. 블랙홀 같은 시스템이 아인슈타인의 상대성 이론의 프레임워크 속에서 가능하다는 사실은 1917년경에 처음 밝혀졌지만 그때는 완벽한 구형 물체의 중력장을 다루고 있었기 때문에 현실성이 없는 것으로 널리 생각됐었다. 그런데 펜로즈에 의하면 특별한 대칭성과 상관없이 시공간 기하의 적절한 성질과 충분히 밀도가 큰 물질 분포를 가정하기만 하면 특이점이 반드시 생겨야만 한다는 것이다. 펜로즈의 특이점 정리는 그가 박사학위를 받은 후 7년이 지난 1965년에 런던의 버크벡 칼리지에서 일하고 있을 때 발견한 것인데 핵심적인 아이디어가 런던의 어느 건널목을 지나가다가 떠올랐다는 일화로도 유명하다.

펜로즈의 케임브리지대 학위논문의 연구분야는 대수기하라는 상당히 어려우면서도 고전적인 순수 수학이었다. 그래서 그의 논문들은 항상 기하적인 아이디어에서 출발해서 거시적인 관점과 교묘한 대수의 테크닉을 많이 활용한다. 그가 일반 상대론의 새로운 방향을 제시할 수 있었던 이유도 이런 배경지식과 상관이 많을 것이다. 즉 그 당시 많은 전문가들이 집중하고 있던 복잡한 계산을 피하고 아인슈타인 방정식의 해의 정성적인 성질을 위상수학적으로 분석함으로써 혁신적인 통찰을 얻어낸 것이다. 약간 이상한 말을 덧붙이자면 내시의 평형점 존재 정리도 위상수학의 고정점 이론을 사용한다는 것이다. 즉 내시의 평형점과 펜로즈의 특이점 사이에 (약한) 수학적 유사성이 있다는 이야기다.

수상 후 곧 노벨 홍보진이 진행한 인터뷰에서 펜로즈는 일반인을 위한 담화의 약 반 정도를 자신의 복잡한 현재 연구를 급하게 설명하는 데 소비해서 조금 혼란스럽게 느낀 사람들이 있을 것이다. 펜로즈는 기존 천체물리학자들과 달리 우주의 시작과 끝이 있다는 우주론을 믿지 않는다. 오히려 우주의 역사와 미래는 계속되는 ‘영겁’으로 나누어진다고 생각한다. 영겁 하나의 종말에 모든 물질은 블랙홀에 흡수됐다가 블랙홀이 증발하면서 빛에너지로 발산되고 거리의 척도가 없어지면서 새로운 영겁의 작은 빅뱅 같은 시초가 형성된다고 펜로즈는 주장한다. 인터뷰의 분위기는 펜로즈가 커리어 말기에 경험한 일종의 ‘과학의 민주성’을 반영하는 것 같기도 하다.

일생 동안 명성을 누리며 여러 개의 굵직한 학술상을 받았음에도 불구하고 1980년 정도 이후에 나온 그의 과학적 이론들은 학계에 큰 영향을 주지 못한 것이 사실이다. 가령 그의 대안 우주론은 주류 천체물리학계의 주목을 거의 받지 못했고 앞으로도 상황이 바뀔 전망이 별로 없다. 옥스퍼드대 수학연구소에서 그는 과학계 명사로 존경받으면서도 최근 들어 그의 말을 귀담아듣는 젊은 사람이 거의 없었다. 학술 세미나 주위를 맴도는 자상한 할아버지의 누추한 모습이 여러 해 동안 그의 전형적인 이미지였다. 즉 과학자의 사회에서는 지금 현재 화제가 될 만한 이야기를 내놓지 못하면 상당히 유명한 사람도 외면되기 쉽다는 것이다. 그래서 펜로즈는 노벨상 수상을 계기로 그동안 무시당해온 자신의 기이한 이론을 선전하려는 의도를 짧은 인터뷰에서도 강하게 표현한 것 같다. 사람에 따라서는 나이 든 학자의 슬픔으로 볼 수도 있다. 그러나 내가 그의 이야기를 들으면서 느낀 감정은 슬픔과 거의 정반대였다. 위대한 사상가가 과거의 업적에 집착하기보다 미래를 바라보며 자신의 현재 이야기를 들어줄 사람을 열심히 찾는 모습, 그 겸손과 의지와 희망의 뒤섞임이 하나의 숭고한 형상으로 응집되어 있었기 때문이다.