[김민형의 여담] 과학 연구에서 근본주의와 실용주의

스웨덴 왕립과학원 노벨상위원회가 지난 4일(현지시각) 스웨덴 스톡홀름에서 화면을 띄워놓고 2022년 노벨 물리학상 수상자를 발표하고 있다. 올해 수상자는 양자역학 분야 연구자인 알랭 아스페(왼쪽부터), 존 클라우저, 안톤 차일링거. 스톡홀름/AP 연합뉴스

김민형 | 영국 에든버러 국제수리과학연구소장

‘입 다물고 계산이나 해!'

물리학자들이 자주 언급하는 인용구다. 그런데 누구의 말인지는 미스터리다. 저명한 미국 물리학자 리처드 파인먼이 자주 언급되지만, 그가 이런 말을 했다는 구체적인 근거를 찾기는 어렵다. 뉴욕 토박이의 직설적인 어투를 격하게 쓰곤 했기에 이런 추측이 나오지 않았나 싶다.

출처를 접어두고 이 꾸짖음의 의미를 물어보면, 보통의 해석은 ‘근본적인 질문'에 대한 비판이라는 것이다. 제대로 된 물리학자가 되려면 ‘존재란 무엇인가' ‘원자의 실체는 무엇인가' 같은 질문은 되도록 피하고 실질적이고 정량적인 연구에 집중하라는 조언이다. 과학역사학자 데이비드 카이저는 이 문구의 근원을 2차 세계대전 때 형성된 매사추세츠공대(MIT) 방사능실험실 과학자들과 연결한다. 레이더 디자인 같은 아주 구체적인 문제를 풀기 위해 모인 그들은 극단적으로 실용적인 관점을 취했고, 이런 성향은 전후에도 연구자금 조달이 점차 정부 지원에 의존하게 되면서 한동안 미국 과학문화에 깊은 영향을 미쳤다고 카이저는 설명한다.

생물학자 프랑수아 자코브의 에세이 〈진화와 부분적인 수선〉에 이런 시각이 더 체계적으로 표현돼 있다: “현대 과학은 ‘우주는 어떻게 형성되었는가’ ‘물질은 무엇인가’ ‘생명의 본질은 무엇인가’ 같은 보편적인 큰 질문이 구체적이고 제한적인 질문, 즉 ‘돌은 어떻게 떨어지는가’ ‘관을 따라가는 물은 어떻게 흐르는가’ ‘피는 어떻게 혈관을 따라가는가’로 대체되면서 시작되었다고 볼 수 있다. 이런 교체는 실로 놀라운 결과를 가지고 왔다. 보편적인 질문은 제한적인 답밖에 허용하지 않았지만, 이상하게도 제한적인 질문은 점점 보편적인 답으로 이어졌다.” 근본적인 질문이 근본적인 답을 직접 낳는 일이 드물다는 이야기다.

그런데도 진정한 과학자가 마음속 깊은 곳에 뿌리박고 있는 근본론을 완전히 탈피하기는 힘들다. 매사추세츠공대의 물리학자 맥스 테그마크는 ‘주류 논문 10개를 마치면 황당한 논문 한개를 쓰도록 스스로 허용한다'고 변명한다. ‘황당한 논문'의 주제는, 그의 홈페이지에서 찾을 수 있듯이 ‘평행우주가 있는가', 혹은 ‘우주는 수학으로 만들어졌는가' 같은 질문들이다. 또한 상당수의 물리학자가 나이 들면서 젊은 동료들의 비난에도 불구하고 철학적 명상으로 가득한 글을 쓰는 일도 드물지 않다.(재미있게도 철학을 늘어놓는 물리학자도 보통 다른 사람들의 철학은 듣기 싫어한다.)

1964년 말 출판된 존 스튜어트 벨의 근본론 논문이 올해 노벨 물리학상으로 이어졌다. 논문의 주 결과는 1+P(b,c)≥|P(a,b)-P(a,c)|라는 간단한 부등식이다. 더 정확히 말하자면, ‘아인슈타인의 숨은 변수 가설'이 맞다면 이 부등식이 성립한다는 논리적 함축을 벨이 수학적으로 증명했다. 흔히 ‘벨 부등식'이라 부른다.(이 부등식 기호들의 의미나 아인슈타인의 가설은 다음에 설명할 것이다.)

벨은 1990년 비교적 젊은 나이인 62살에 타계했는데, 벨의 부등식이 현실에서 성립하지 않는다는 실험을 섬세하게 실행한 알랭 아스페, 존 클라우저, 안톤 차일링거 세 사람이 올해의 수상자다. 그러니까 벨이 ‘P이면 Q' 꼴의 명제를 증명했기에 Q가 아님을 관측한 이들은 따라서 P도 아님, 즉, 숨은 변수 가설이 틀렸다는 것을 실험적으로 보였다. 이 결과의 양자정보적인 응용이 노벨재단 웹페이지에도 강조됐지만, 사실 벨 부등식과 실험들의 본의미는 양자역학의 해석에 관한 철학적 논란을 판가름한 것이었다. 근본적인 내용에 걸맞게 논문은 6쪽밖에 안 되고 이론물리학의 기준으로는 사용되는 수학도 비교적 간단하다. 대학교 수준의 미적분학, 확률론, 그리고 행렬만 알면 큰 부담 없이 논리를 따라갈 수 있다.(수학적으로는 기초적이면서도 다소 추상적인 ‘텐서 곱'의 개념이 양자역학 계산에 나타나지만 벨 부등식 자체에서는 사용되지 않는다.) 알랭 아스페는 벨의 논문을 ‘두번째 양자혁명'이라고 할 만한 획기적인 업적이었다고 평한다.

이 논문과 그로부터 파생된 연구가 ‘입 다물고 계산하라’는 관점을 강화했다고 해석해보면 재미있다. 우선 철학적으로 모호하게 묘사된 아인슈타인의 이론을 벨 부등식이 계산 가능하게 만들었다. 또 벨과 세 실험자의 결과는 다른 학자들의 근본에 대한 걱정을 덜어줬다. 즉, 벨이 근본적인 사고에 충분히 심혈을 기울여준 덕분에 다른 사람들은 입 다물고 계산만 할 수 있는 여건이 (좋든 싫든) 형성됐다. 그런 식으로 근본주의와 실용주의는 어느 정도의 갈등 관계 속에서도 상호보완적으로 과학의 발전에 기여해간다.