어느 수학자의 변명

G. H. 하디 지음

세시 / 2008년 2월 / 205쪽 / 9,500원1

전문적인 수학자가 수학에 대한 글을 쓰고 있는 자신을 발견한다는 것은 우울한 경험이다. 수학자의 본분은 무언가 새로운 정리를 증명하면서 수학을 발전시켜 나가는 것이지, 자신이나 다른 수학자들이 이루어 놓은 것에 대하여 왈가왈부하는 것이 아니다. 정치가 정치 기자들을 경멸하고 예술가가 미술 평론가들을 혐오하는 것처럼 생리학자, 물리학자, 수학자들도 대개 비슷한 감정을 품고 있다. 창조하는 사람이 해설하는 사람에 대해 갖는 경멸감은 무엇보다 의미심장하고 명백히 정당한 것이다. 설명이나 비평, 평론 등은 이류급 인간들이 하는 일이다.



지금 내가 수학 자체가 아닌 수학에 관련된 이야기를 쓰고 있는 것은, 내 약점에 대한 고백이다. 나보다 젊고 열정적인 수학자들이 내 약점을 비난하거나 동정한다고 해도 그것은 당연한 것이다. 내가 수학에 관련된 글을 쓰는 이유는, 나이 예순을 넘긴 여타의 수학자들과 마찬가지로, 더 이상 내게 명료한 정신과 에너지, 또는 직무를 효과적으로 수행해낼 만한 인내심이 없기 때문이다.



2

나는 조심스럽게 수학에 대한 변명을 시도하고자 한다. 혹자는 변명이 필요 없다고 말할지도 모른다. 좋은 이유로든 나쁜 이유로든 유용하고 훌륭한 학문으로서 수학만큼 대중에게 널리 인식된 학문은 드물기 때문이다. 아마도 이는 사실일 것이다. 아니, 사실일지도 모른다. 아인슈타인이 선풍적인 인기몰이를 한 이래 대중의 평가에 있어 수학보다 우위에 있는 학문은 천문학과 전자물리학뿐이다. 수학자는 스스로 방어 자세를 취하지 않아도 된다. 수학자는 브래들리가 자신의 저서 『현상과 실재 Appearance and Reality』의 서문에서 형이상학에 대한 옹호의 변을 멋지게 늘어놓았던 것처럼 누군가의 반대에 맞서야 할 일도 없다. 대부분의 수학적 진리는 명백하고 당당하다. 교량이나 증기 기관, 발전기처럼 수학을 실질적으로 응용한 예는 수학에 가장 지루한 상상력을 발휘할 것을 강요한 결과물이다. 수학자는 대중에게 수학에 무언가가 있다고 설득하지 않아도 된다.



이 모든 사실이 수학자에게는 큰 위안이 될 것이다. 그러나 진정한 수학자라면 이러한 사실에 결코 만족하지 않는다. 진정한 수학자라면 분명 현재의 조악한 성과물이 수학의 본 모습이 아니며, 오늘날 수학의 대중적 명성은 대부분 무지와 혼동에 근거하고 있으므로 보다 이성적으로 변론할 여지가 있다고 느낄 것이다. 어쨌든 나는 수학에 대한 변명을 하고 싶다.



3

모든 수학자들은 수학이 젊은 사람들을 위한 학문임을 알고 있다. 예술이나 과학 분야도 마찬가지겠지만, 이는 수학에서 더욱 절실한 현실이다. 비교적 초라한 수준의 간단한 예를 들자면, 로열 소사이어티(영국 왕립 학회) 회원의 평균 연령을 비교했을 때 수학자들이 가장 젊다. 훨씬 더 충격적인 예를 찾는 일도 어렵지 않다. 예를 들어, 전 세계적으로 유명한 수학자 중 세 손가락 안에 꼽히는 한 인물의 이력을 살펴보자. 뉴턴(Issac Newton)은 50세에 수학을 포기했으며, 수학에 대한 열정을 잃은 것은 그보다 훨씬 이전이었다. 40세 무렵 그는 이미 자신의 창조적 두뇌가 유효 기간을 넘겼음을 깨달았다. 유율(流率), 중력 법칙 등 그의 위대한 아이디어들은 1666년경에 밝혀진 것인데, 이때 그의 나이는 24세였다. 뉴턴은 거의 40세 이전까지 굵직굵직한 발견을 했지만(타원형 궤도는 37세에 밝혀냈다), 그 뒤로는 새로운 것을 발견해 내는 대신 기존의 것들을 다듬고 보완하는 데 주력했다. 갈루아는 21세에 요절했고, 아벨도 27세에 세상을 떠났다. 라마누잔은 33세에, 리만은 40세에 각각 사망했다. 물론 훨씬 나이가 든 후에 훌륭한 업적을 쌓은 이들도 있다. 가우스의 미분 기하학에 관한 연구 논문이 출간된 것은 그의 나이 50세 때였다(물론 이 논문의 기본 틀은 그보다 10년 전에 잡힌 것이다). 내가 아는 한, 50세 이상의 수학자에 의해 중요한 수학적 진보가 이루어진 경우는 지금껏 단 한 번도 없었다. 어떤 사람이 어느 정도 나이가 되어 수학에 흥미를 잃고 포기한다고 해도, 그것이 그 사람 자신이나 수학의 발전을 위해서 그다지 심각한 영향을 미치지는 않는다고 나는 생각한다.



한편 수학을 포기함으로써 얻는 것 또한 특별히 없다. 수학계를 떠난 전직 수학자의 말년에 관한 기록들을 살펴보면 대부분 우울한 것들뿐이다. 뉴턴은 조폐국 장관직을 누구와도 다투는 일 없이 훌륭히 수행해 냈다. 팽르베는 총리로서 그다지 성공적이지 못했다. 라플라스의 정치 이력은 부끄럽기 짝이 없었지만, 이 경우는 좋은 예라고 할 수 없을 것이다. 그는 무능하다기보다 불성실했으며, 결코 수학을 완전히 포기하지 않았기 때문이다. 결론적으로 훌륭한 수학자로서 수학을 포기한 후 기타 다른 분야에서 우수한 성과를 거둔 예는 찾아보기가 대단히 힘들다(그나마 파스칼이 가장 좋은 예라고 할 수 있을 것이다). 어쩌면 몇몇 젊은 사람들 중에는 연구에 악착같이 매달렸을 경우 훌륭한 수학자가 될 잠재력을 가진 이들이 있었을지도 모른다. 그러나 지금까지 그럴듯한 예를 들어본 적이 없다.

4

인간의 첫 번째 의무, 좀더 구체적으로 말해 젊은이의 첫 번째 의무는 야심을 갖는 것이다. 야심은 고귀한 열정의 한 가지로, 여러 가지 형태를 갖는 것이 당연하다. 아틸라나 나폴레옹의 야심에도 무언가 고귀한 점은 있었다. 그러나 가장 고귀한 야심이란 영속적인 가치를 남기는 것이다. 야심은 이 세상 인간이 이룩한 거의 모든 업적의 원동력이 되어 왔다. 특히 인류의 행복을 위해 실질적으로 가치 있는 공헌을 한 이들은 모두 야심가들이었다.



한 인간을 연구에 골몰하도록 이끄는 동기에는 여러 가지 훌륭한 것들이 많이 있다. 그 중 가장 중요한 세 가지 동기는 다음과 같다. 첫 번째는 지적인 호기심, 즉 진리를 알고자 하는 욕망이다(이것이 없으면 나머지 동기들은 모두 무의미하다). 두 번째는 직업적인 자긍심, 자신의 성과물에 만족하고 싶은 열망, 자존심 강한 장인이 자기 재능에 미치지 못하는 작품을 만들어냈을 때 느끼는 자괴감이다. 마지막으로 세 번째 동기는 야심, 명성을 얻고자하는 욕망, 높은 지위 그리고 그것이 가져다주는 권력과 재력이다. 자신이 무언가를 함으로써 다른 사람들이 더 행복해지거나 고통이 줄어든다면 물론 기분은 좋을 것이다. 하지만 그것이 당신이 그 일을 하는 궁극적인 이유가 되지는 않는다. 따라서 인류의 행복에 공헌하고픈 욕망이 연구의 원동력이 되었다고 주장하는 수학자나 화학자가 있다면, 심지어 그것이 생리학자의 주장일지라도 나는 그 말을 결코 믿지 않을 것이다(설사 그 말을 믿는다 해도 그 사람을 더 좋게 평가하지는 않을 것이다). 그 사람이 일을 하는 주된 동기는 분명 야심 때문일 것이며, 올곧은 인간으로서 그 동기를 부끄러워할 이유는 전혀 없다.



5

지적 호기심, 직업적 자긍심과 야심 등이 연구에 빠져들게 되는 주요 동기라면, 단언컨대 수학자만큼 자기 일에 만족할 가능성이 큰 사람은 없을 것이다. 수학은 다른 어떤 것보다 더 크게 우리의 호기심을 자극한다. 또한 수학만큼 진실이 기묘하게 장난을 치는 분야는 없다. 수학은 가장 정교하고 가장 매혹적인 기교를 자랑하며, 전문 기술을 발휘할 기회를 준다는 면에서는 경쟁 상대가 거의 없다고 할 수 있다. 마지막으로 역사가 수차례 증명하듯이, 수학적 성과물은 본질적인 가치와는 상관없이 다른 어떤 것보다 더 영속적이다. 이 같은 사실은 역사적 문명을 통해서도 증명된다. 바빌로니아와 아시리아 문명은 사멸했고, 함무라비, 사르곤 2세, 네부카드네자르 2세는 모두 공허한 이름이 되었다. 그러나 바빌로니아의 수학은 여전히 관심의 대상이며, 바빌로니아의 60진법은 지금까지 천문학에서 사용되고 있다. 물론 가장 결정적인 예는 그리스인들의 수학이다. 그리스인들은 오늘날 우리에게 실질적인 영향을 주고 있는 최초의 수학자였다. 고대의 동양 수학이 흥미로운 호기심의 대상이라면, 그리스 수학은 실질적인 수학이다. 그리스인들은 오늘날 현대 수학에서 이해할 수 있는 언어를 최초로 구사했다. 언젠가 리틀우드 교수가 말했던 것처럼, 그리스 인들은 총명한 학생이나 학자 지망생이 아니라 다른 대학의 동료 연구원 같은 존재였다. 따라서 그리스 수학은 그리스 문학보다 더 영속적이라고 할 수 있다. 아이스킬로스는 잊혀질지라도 아르키메데스는 영원히 기억될 것이다. 언어는 소멸하지만 수학적 아이디어는 불멸하기 때문이다. 어쩌면 불멸이라는 말이 가당찮게 들릴지도 모르겠다. 그렇더라도 수학자만큼 불멸할 가능성이 높은 사람은 없을 것이다.



또한 수학자는 미래가 자신을 부당하게 다룰지 모른다고 심각하게 고민할 필요가 없다. 불멸한다는 것이 종종 우스꽝스럽거나 잔인할 때가 있기 때문이다. 전반적으로 과학의 역사는 공정한 편이며, 수학의 경우는 더더욱 그렇다. 수학만큼 명쾌하고 만장일치로 받아들여지는 기준을 가진 학문은 없다. 또한 수학 분야에서 후세에 길이 기억되는 인물은 대부분 그럴 만한 가치가 있는 사람들이다. 돈을 주고 살 수만 있다면, 수학적 명성이야말로 가장 안전하고 확실한 투자 종목 가운데 하나일 것이다.

6

변호사나 정치가, 사업가들은 때때로 학문하는 직업이란 대개 안정과 안락함을 최고로 여기는 소심하고 야심 없는 사람들이 택하는 일이라고 말한다. 그러나 이러한 비난은 매우 잘못된 것이다. 대학의 연구원은 큰돈을 벌 기회를 포기해야 한다. 실제로 교수의 연봉이 2천 파운드를 넘기기는 매우 어렵다. 돈을 벌 기회를 쉽게 포기할 수 있게 만드는 여러 요인들 중 하나는 교수직을 평생 보장받는다는 것이다. 그러나 이런 이유로 하우스먼 교수가 사이먼 경이나 비버브룩 경 같은 사람이 되기를 거부했던 것은 아니다. 그가 고위 관리나 정치가가 되기를 거부했던 궁극적인 이유는 자기 나름의 야심이 있었기 때문이다. 다시 말해 그는 20년만 지나면 대중의 뇌리에서 잊혀질 사람이 되고 싶지는 않았던 것이다.



7

수학자도 화가나 시인들처럼 패턴을 만든다. 만약 수학자의 패턴이 화가나 시인의 것보다 더 영속적이라면, 그것은 아이디어로 만들어졌기 때문이다. 화가는 형태와 색깔로, 시인은 언어로 패턴을 만든다. 그림이 하나의 아이디어를 형상화할 수도 있지만, 대개 그 아이디어는 평범하고 시시한 것이다. 시의 경우, 아이디어는 훨씬 더 많은 것을 설명한다. 그러나 하우스먼의 주장대로 시에 있어 아이디어의 중요성은 습관적으로 과장되는 것이 사실이다. 하우스먼은 이렇게 말한다. "나는 과연 시적 아이디어라는 것이 존재하는지 믿을 수 없다. 시의 본질은 무엇을 말하느냐가 아니라 어떻게 말하느냐이다." 시구는 더 아름답게 만들 수 있다. 그러나 아이디어까지 더 진부하고 더 거짓되게 만들 수 있을까? 아이디어의 빈곤함이 언어적 패턴의 아름다움에 영향을 주는 것 같지는 않다. 반면 수학자에게는 아이디어 이외에 다른 소재가 없다. 수학자가 만드는 패턴이 보다 영속적인 이유는 아이디어가 언어보다 세월에 더 오래 견디기 때문이다. 화가나 시인과 마찬가지로 수학자가 만드는 패턴 또한 반드시 아름다워야 한다. 그러려면 색상이나 언어처럼 아이디어 역시 조화롭게 연결되어야 한다. 아름다움이야말로 수학이 통과해야 할 최초의 테스트이다. 세상은 못생긴 수학을 영원히 받아들여 주지 않는다.

8

체스 문제는 확실히 수학과 관련되어 있긴 하지만, 어떤 면에서는 다소 시시하다고 할 수 있다. 아무리 기발하고 난해하며 독창적인 문제라고 하더라도, 그 안에는 본질적인 무언가가 결핍되어 있다. 다시 말해 체스 문제는 중요하지 않다. 최고의 수학은 아름다운 동시에 진지해야 한다. 여기서 진지하다는 말을 중요하다는 말로 바꿔 쓸 수도 있겠지만, 이 단어는 무척 모호하므로, 역시 진지하다는 표현이 내 의도에 더 부합할 것이다. 수학이 실질적으로 쓸모가 있는 경우는 거의 없으며, 설사 있다고 해도 비교적 지루한 것이다. 수학적 정리의 진지함은 실질적 결과에 있는 것이 아니다. 수학에 관한 한 실질적인 결과는 그다지 중요하지 않다. 수학적 정리의 진지함은 그 정리와 관련된 수학적 아이디어의 의의에 있다. 요컨대 하나의 수학적 아이디어가 의미가 있으려면 다른 여러 수학적 아이디어들과 자연스럽고 명백하게 연결될 수 있어야 한다. 따라서 진지한 수학적 정리, 즉 의미 있는 아이디어들과 연결되는 수학적 정리는 수학 자체뿐 아니라 여타 다른 과학 분야에까지 중요한 발전을 주도할 수 있다. 지금까지 체스 문제가 과학 사상의 일반적인 발전에 영향을 끼친 적은 단 한 번도 없었다. 그러나 피타고라스와 뉴턴, 아인슈타인은 당대의 과학 사상의 전반적인 방향을 바꾸어 놓았다. 물론 정리의 진지함은 그 결과에 있지 않다. 결과는 다만 진지함의 증거일 뿐이다. 수학적 정리의 아름다움은 상당 부분 그 진지함에 의해 좌우된다. 이는 시에서 한 구절이 담고 있는 사상의 의미에 따라 그 구절의 아름다움이 웬만큼 결정되는 것과 마찬가지다.



9

진지한 정리란 의미 있는 아이디어를 포함하는 정리를 말한다. 수학적 아이디어에 있어 이유를 불문하고 본질적인 것으로 보이는 두 가지 특성이 있다. 바로 일반성과 깊이이다. 하지만 이들을 정확하게 정의한다는 것은 결코 쉽지 않은 일이다. 의미 있는 수학적 아이디어, 진지한 수학적 정리는 이와 같은 의미에서 일반적이다. 의미 있는 아이디어라면 반드시 수많은 수학적 구조물의 구성 요소가 되어야 하며, 각기 다른 여러 가지 정리를 증명하는 데 이용되어야만 한다. 또한 진지한 정리는(피타고라스의 정리처럼) 아주 특별한 형태로서 독창적으로 진술되는 경우에도 반드시 확장 가능해야 하며, 같은 종류의 정리들 전체를 대표하는 것이어야만 한다. 덧붙여 증명에서 드러나는 관계는 여러 가지 서로 다른 수학적 아이디어를 연결하는 것이어야 한다. 물론 이 모든 것은 무척 막연하고 갖가지 조건에 따라 달라질 수 있다. 하지만 이러한 특성들이 눈에 띄게 결여되어 있다면 그것이 진지한 정리가 아니라는 것을 쉽게 알게 된다.



10

의미 있는 아이디어가 갖추어야 할 두 번째 특성은 깊이이다. 이는 일반성보다 훨씬 더 정의하기 힘든 개념이다. 깊이는 어려움과 어떤 관련이 있다. 깊이 있는 아이디어일수록 대개 이해하기가 더 어렵기 때문이다. 그러나 결코 이 두 가지가 똑같은 것은 아니다. 피타고라스의 정리 및 관련 일반론에 내재되어 있는 아이디어는 상당히 깊이 있는 것이지만, 오늘날 그것을 어렵다고 생각하는 수학자는 아무도 없다. 이와는 반대로, 정리란 본질적으로 피상적인 것임에도 증명하기는 무척 어렵다(정수 방정식의 해법에 관한 '디오판투스 정리'가 그 대표적인 예이다). 어떤 면에서 보면 수학적 아이디어들은 층별로 배치되어 있는 것 같다. 각 층의 아이디어들은 같은 층의 아이디어들과는 물론 위아래 층의 아이디어들과 일련의 관계를 맺고 있다. 보다 낮은 층에 위치한 아이디어일수록 더욱 깊이가 있으며 일반적으로 더 어렵다. 따라서 무리수라는 아이디어는 정수라는 아이디어보다 더 깊이가 있다. 피타고라스의 정리가 유클리드의 정리보다 더 깊이가 있는 것도 같은 맥락에서다.



11

과연 유클리드의 정리나 피타고라스의 정리 같은 수학적 정리들에서 어떤 순수 미학적 특성을 찾아낼 수 있단 말인가? 이 의문에 대해서는 다음의 몇 가지 단편적인 사항들을 통해 결론을 짓도록 하자. 유클리드의 정리와 피타고라스의 정리(물론 여기서 말하는 정리에는 그 증명도 포함된다)는 둘 다 불가피성과 경제성과 연결된 고도의 의외성을 지니고 있다. 논법은 아주 기묘하고 놀라운 형태를 취한