오! 증명의 아름다움이여

밀림으로 간 유클리드
조지프 마주르 지음. 이경아 옮김. 한승 펴냄. 1만6000원

잠깐독서

열일곱살 먹던 날 그는 형에게서 두권의 책 선물을 받았다. 한권은 도스토예프스키의 <죄와 벌>, 이불 속에서 한 번도 나오지 않고 끼니도 잊은 채 하루 만에 읽어치웠다. 재미있을 거란 기대감을 안고 집어든 또 한권은 472쪽 짜리 대수학 교과서. 두번 째 페이지 한 문장을 해독하느라 이틀을 끙끙댔다. 여름내 두 단원을 읽는 데 그쳤다. “수학은 거대한 산맥”이었지만 산소가 희박한 공기층을 지나 정상에 오르자 장엄한 전망이 펼쳐졌다. 장엄한 전망이란 바로 증명의 말미에서 발견하는 아름다움. 10대 소년은 훗날 수학자가 되었다.

30년간 수학을 강의해온 이 수학자는 그 흥분을 전하고자 밀림으로의 ‘수학여행’을 감행한다. <밀림으로 간 유클리드>는 딱딱한 논증의 세계에 픽션을 가미해 말랑말랑하게 만든 독특한 형식의 수학책이다. 남미 밀림과 그리스 섬, 뉴욕 등에서 만난 실존인물과 가공인물들이 수학의 기본개념을 증명하는 ‘필살기’를 펼친다. 기하학의 대가 유클리드, 논리가 아닌 직관을 끌어온 카발리에리, 무한 개념을 고안한 칸토어, 집합론을 발전시킨 괴델 등 굵직한 수학자들이 기둥을 떠받친다.

수학의 가장 오랜 쟁점은 무한의 문제였다. 논란의 핵심은 유클리드의 ‘제5공리’. 증명할 필요조차 없는 절대진리의 권위를 2천년이나 구가했다. 평면적이고 유한한 세계관을 깬 것은 무한의 논리가 갖춰진 19세기였다. 직선 밖의 한 점을 지나 그 직선과 만나지 않는 직선은 하나(평행선)뿐이라는 가정 위에 세워졌던 기하학의 정리가 곡면에서는 들어맞지 않았기 때문이다. 비유클리드 기하학을 찾아낸 수학자 보여이는 “무에서 이상하고 새로운 세계를 만들어 냈습니다”라며 경이로워했다. 관찰 가능한 세계에 대한 인식이 자유로워지면서 수학은 무한한 상상의 세계로 비약한다. 논리의 빽빽한 밀림에 갇혔다면 보지 못했을 믿음과 직관의 힘이 아닐 수 없다.

그렇다면 2천년 동안 믿어온 피타고라스의 정리는 옳은가? 유한이 끝나는 지점은 어디인가? 수학은 실제 현실 세계를 반영하는가? 진리를 찾아가면서도 책은 궁극적 물음을 불러일으킨다. 중학교 수학시간에 배운 온갖 ‘정리’들이 다채로운 방식으로 증명돼 호기심을 돋운다. ‘수학소설’이라는 수식어를 달고 있는 만큼 기발한 구성은 특기할 만하다. 하지만 증명의 아름다움을 발견하기까지 희박한 공기 속에서 고산증을 앓을수도 있겠다.

권귀순 기자 [e-mail]