과학자의 흑역사

과학자의 흑역사



양젠예 지음

현대지성 / 2021년 9월 / 436쪽 / 19,900원





천문학자의 흑역사



호킹이 이런 짓을 하다니!

스티븐 호킹은 주로 블랙홀을 연구했다. 블랙홀은 우주 공간에서 물질이 존재하는 특수한 형태 중 하나이며, 블랙홀에서는 물질의 밀도가 상상할 수 없이 높아진다. 그래서 블랙홀에서는 빛도 빠져나오지 못한다. 당연히 인간의 눈에도 보이지 않으므로 이 공간을 ‘블랙홀’이라고 부르게 되었다. 블랙홀에 한 번 들어가면 어떤 물질도 다시는 밖으로 나올 수 없다. 블랙홀은 중력이 엄청나게 크기 때문에 미사일이든 빛이든 모두 일정 거리까지 날아간 다음에는 급커브를 돌아 블랙홀 안으로 들어와야 한다.

빛이 가장 멀리까지 날아간 지점을 r(e)라고 할 때, 이 r(e)를 반지름으로 그린 원의 경계를 ‘사건의 지평선’이라고 하는데, 사건의 지평선이란 일반상대성이론에 나오는 개념으로, 내부에서 일어난 사건이 그 외부에 영향을 줄 수 없는 경계면이다. 외부에서는 물질이나 빛이 안쪽으로 빨려들어갈 수 있지만, 내부에서는 블랙홀의 중력에 의한 붕괴 속도가 탈출하려는 빛의 속도보다 커지므로 내부로 들어온 물질이나 빛은 사건의 지평선 바깥으로 빠져나갈 수 없다. 사건의 지평선은 곧 블랙홀의 경계다. 블랙홀이 클수록 사건의 지평선이 가지는 표면적, r(e)를 반경으로 하는 원의 면적인 πr(e)제곱도 커진다.

호킹의 위대한 공헌은 이 원의 면적 πr(e)제곱을 연구한 것이다. 1970년 11월, 잠자리에 들려던 호킹은 블랙홀 경계의 면적이 줄어들지 않고 변함없이 유지되거나 증가하기만 할 것이라는 생각을 떠올렸다. 이런 규칙을 적용하면 블랙홀의 성질과 작용에 중요한 제한을 둘 수 있고, 이 블랙홀 면적과 열역학의 엔트로피(entropy) 사이에 있는 유사성을 일깨워줄 수 있다. 열역학 제2법칙은 ‘고립계의 엔트로피가 줄어들지 않고 그대로 유지되거나 증가하기만 한다’라는 것인데(그래서 열역학 제2법칙을 엔트로피 증가의 법칙이라고도 함), 특이하게 블랙홀 면적(사건의 지평선 면적)이 엔트로피와 동일한 차원을 가진다는 것을 보여준다. 그러니 나중에 미국 물리학자 찬드라세카르가 다음과 같이 감탄했을 것이다.

‘열역학과 통계물리학은 일반상대성이론에서 엔트로피를 얻으려고 기대하지 않았다. 그러나 이 이론에서 나온 결과는 열역학과 통계물리학의 규칙에 어긋나지 않는다. (……) 이런 사실로 사람들은 일반상대성이론을 확신하게 되었다. (……) 이는 일반상대성이론의 미학적 토대와 관련이 있다.’

호킹의 이런 중대한 발견은 당시 이론물리학자들의 환호를 받았다. 그런데 얼마 후, 아무도 예상하지 못했던 일이 발생했다. 호킹이 자신의 새로운 견해(블랙홀의 경계가 가진 성질이 열역학의 엔트로피 법칙과 같다는 사실)에서 시작하여 블랙홀에 관한 통념을 단번에 뒤집은 것이다. 그러면서 이론물리학자들이 가장 좋아하는 “블랙홀은 검지 않다”라는 개념을 전하기 시작했다. 이것은 곧 어떤 물질(기본 입자 등)은 블랙홀에서도 빠져나올 수 있다는 의미다.

이 획기적인 발견으로 호킹은 당대 우주학에서 최고의 인물이자 공인된 권위자가 됐다. 그런데 이 놀라운 발견이 실수에서 비롯되었다는 것을 믿을 수 있겠는가? 처음에 호킹은 블랙홀 경계의 면적이 가지는 불변성을 엔트로피 증가의 법칙과 연결 짓지 않았다. 오히려 이러한 연계에 반대하는 입장이었다. 그는 이 둘을 ‘숫자적으로 늘지 않는다’라는 점에서 연결했을 뿐 본질적인 연관성이 있다고 보지는 않았다. 그랬던 호킹은 나중에 어떤 논문에서 미국 프린스턴대학교의 교수 존 휠러의 대학원생인 야코브 베켄슈타인이 블랙홀 경계의 면적이 블랙홀의 엔트로피와 관련이 있을 가능성이 크며, 이 면적이 블랙홀의 엔트로피량일지도 모른다고 주장한 사실을 뒤늦게 알게 되었다.

호킹은 베켄슈타인의 의견에 울화통을 터트리며 분개했다. “뭘 모르는 대학원생이 나대는군! 블랙홀 사건의 지평선 면적이 엔트로피량이라면 그건 곧 온도량이라는 뜻이 되잖아. 블랙홀에 정말로 온도가 있다면 열이 블랙홀에서 빠져 나와 우주에서 가장 추운 곳(-273℃)으로 흘러간다는 뜻인데, 그러면 에너지가 블랙홀에서 유실된다는 것을 의미해. 이게 어떻게 가능하다는 거지?” 1973년에 호킹과 그의 동료 두 사람은 논문을 발표해 베켄슈타인의 논문에 나타난 ‘치명적인 약점’을 지적했다. 사실상 블랙홀의 유효 온도는 절대영도이며, 어떤 복사열도 블랙홀 밖으로 방출되지 않는다고 말이다.

그러나 호킹은 나중에 베켄슈타인이 아니라 자신이 틀렸음을 알게 되었다. 과학사에서 몇 번이나 반복해서 이와 비슷한 일이 일어났다. 보수적인 전통 사상에 속박되지 않으려 애쓰면서 대담하게 도전하는 젊은 과학자는 예외 없이 권위자들의 분노와 반대에 직면한다. 그러나 결과적으로 과학의 중대한 발견은 이런 젊은이들의 쉼 없는 도전 끝에 이루어졌다. 권위자와 노인들은 대부분 그 발전 과정에서 반대 세력의 역할을 맡는다. 이번에는 30살을 막 넘겨 나이는 많지 않지만 명성은 대단한 호킹이 이 역할을 맡은 것이다. 더 재미있는 부분은 호킹이 좀 더 연구를 진행시켜 도출한 수학 공식이 베켄슈타인의 관점에 몹시 유리했다는 사실이다. 하지만 호킹은 이를 믿으려 하지 않았다.

한동안 호킹은 수많은 노력을 기울여 베켄슈타인의 ‘잘못된 견해’에서 벗어나려 했지만 성공하지 못했다. 그러다가 결국 호킹은 베켄슈타인의 견해와 자신의 수학 공식에서 얻은 결론을 인정하고 편견을 내려놓았다. 그리고 잘못을 인정한 후에 호킹은 한 시대의 획을 긋는 과학적 발견을 하게 된다. “실패는 성공의 어머니”라는 말이 최고의 진리임을 보여주는 사례다.



생물학자의 흑역사



염색체를 인정하지 않은 윌리엄 베이트슨

베이트슨은 영국의 유전학자인데, 국제적으로 ‘위대한 유전학의 선구자’라는 명예를 얻었고, 유전학에서 케임브리지 학파의 위치를 확립했다. 또 그의 노력으로 수십 년 전에 잊힌 멘델의 유전 법칙이 사람들에게 인정받았다. 그런데 베이트슨과 관련한 이상한 일도 적잖다. 미국의 토머스 헌트 모건을 중심으로 한 생물학자들이 멘델 유전학설을 염색체 이론에 적용하려 했을 때 베이트슨은 모건 이론을 단호하게 반대했고, 20년이라는 긴 시간 동안 ‘보수파’의 역할을 했다. 반면 모건은 멘델 이론에 반대하는 입장이었지만, 1년 만에 미국에서 가장 열광적인 지지자로 바뀌었다.

처음 모건이 멘델 이론을 반대한 이유는 멘델 이론에 몇 가지 오류가 있었고, 새롭게 밝혀진 몇몇 실험 결과를 설명할 수 없었기 때문이었다. 그러나 멘델 이론의 깊은 본질을 이해하고, 부족한 부분을 정확히 평가한 이후에는 멘델 이론을 적극적으로 알리고 발전시키기 시작했다. 베이트슨과 모건의 태도는 분명히 달랐다. 베이트슨은 멘델 이론을 무조건적으로 지지했고, 모건은 멘델 이론의 결점을 극복하고 더 완벽하게 만들고자 했다. 멘델 이론을 발전시키는 과정에서 모건은 초파리를 연구 대상으로 삼고 새로운 유전 규칙을 발견했으며, 염색체 유전학설을 제창했다. 모건은 염색체가 멘델이 말했던 ‘유전적 형상 전달 메커니즘’ 속의 유전 물질을 운반하는 존재라고 여겼고, 유전자 학설을 세우고, 유전자야말로 염색체를 구성하는 유전의 기본단위라고 여겼다. 한편 생물 개체의 발육 과정에서 유전자는 일정한 조건에 따라 대사 과정을 통제하고 유전적 특징을 발현시키는데, 유전 과정에서 염색체가 하는 작용을 발견한 탁월한 성취를 인정받아 모건은 1933년에 노벨생리의학상을 받았다.

베이트슨은 모건이 염색체 개념을 제시하자 곧바로 반대 의견을 표명했다. 염색체는 근본적으로 멘델 이론과 아무 관련도 없다는 것이었다. 그때부터 베이트슨은 염색체 이론과의 투쟁을 시작했다가 1922년 직접 모건의 실험실을 방문한 후에야 염색체 이론에 대한 의심을 포기했다. 그러기까지 걸린 세월이 무려 20년이었다. 그리고 이 20년 동안 미국 생물학 연구는 세계 선두에 자리잡았다. 모건과 그의 동료들이 두각을 드러내던 시기에 베이트슨은 좋은 기회를 놓쳤을 뿐 아니라, 스스로 ‘수구세력’의 대표 인물이 되었고, 영국 유전학 연구도 20년이나 뒤떨어졌다.

베이트슨이 유전학 발전의 방향을 알아차리지 못하게 된 원인이 무엇일까? 과학 발전은 일반적으로 ‘현상학적 이론’이라는 단계를 거치는데, 현상학은 표출된 현상과 변화를 연구하며 표상 내부의 심층적인 메커니즘은 깊이 탐구하지 않는다. 예를 들어 물리학자가 열학을 연구하는 과정에서 열역학 제1법칙, 제2법칙을 발견했는데, 이는 현상학적 규칙에 해당한다. 그 내부(미시적 차원)의 메커니즘은 현상적 연구가 상당히 진척한 후에야 물리학자들의 관심을 끌었다. 그 이후로 기체의 분자운동이론, 통계역학 같은 현상학 범주를 벗어난 좀 더 고차원적인 이론 구조 단계에 접어들었다.

물리학은 일찌감치 이런 변화를 겪었다. 반면 생물학은 1920년대부터 현상학적 이론에서 벗어나 생명 신비의 심층부를 탐구하게 되었다. 열역학에서 분자운동이론으로의 전환 중 수많은 반대자가 나타났던 것처럼, 생물학도 이러한 ‘탈바꿈’ 과정에서 필연적으로 회의론자의 반대에 부딪혔다. 게다가 물리학에서 그랬듯, 이런 반대자의 대부분은 현상학적 이론에서 공헌도가 높았던 탁월한 과학자들이었다.

베이트슨은 생물학의 탈바꿈 과정에서 악역을 담당했는데, 그가 반대했던 이유는 2가지다. 모건은 생물 유전학의 현상학적 서술 방식을 끝내기 위해 유전 물질의 매개체를 찾았고, 멘델이 추상적인 ‘인자’로 표현한 것을 ‘염색체 입자’로 귀결했고, 물질의 구조라는 측면에서 유전학의 규칙을 찾았다. 이런 접근법은 분명히 한 단계 진보한 것이었다. 물리학자들이 물질의 원자-분자 구조에서 열 현상의 본질을 찾으려 한 것과 마찬가지였다. 하지만 베이트슨은 모건의 탐구 과정이 황당무계하다고 여겼다. 또 다른 이유는 모건이 내놓은 염색체에 대한 해설에는 스스로 찾아낸, 믿을 만하고 독립된 증거가 없다고 여겼다. 그래서 모건의 실험팀에게 염색체에 유전자가 있다는 증거를 내놓으라고 요구했다.

모건이 염색체 이론을 제창하고 있을 때, 베이트슨은 갖은 방법을 동원해 모건을 질책하며 이게 틀렸다, 저게 부족하다, 이걸 증명해라, 저걸 실험해라 난리였다. 지금에 와서 보면 베이트슨의 이런 태도가 억지처럼 보이지만, 과학 발전의 역사에는 논쟁이 빠질 수 없다. 논쟁이 없다면 과학은 더 이상 발전하지 못할 것이다. 새로운 이론이 막 나왔을 때는 불완전하기 마련이고, 반대파의 엄격하고 까다로운 흠집 잡기가 필요할 때도 있다. 따라서 베이트슨의 반대 자체가 잘못이라고 말할 수는 없다.

그렇다면 베이트슨의 실수는 어떤 면에서 우리에게 교훈을 주는가? 독일 화학자 오스트발트는 20세기 초에도 원자 이론을 반대했는데, 그가 남긴 유명한 말이 있다. ‘내가 원자 가설을 믿기 바란다면 내게 원자를 보여주시오.’ 당시 물리학자들은 원자 이론으로 수많은 물리 현상을 정확히 해석할 수 있었고, 또한 여러 현상을 예측했다(게다가 실험을 통해 이런 예측을 증명하기도 했다). 그러나 그토록 작은 원자를 다른 사람에게 ‘보여주는 것’은 정말 쉽지 않은 일이었다. 베이트슨이 모건의 염색체 이론에 대해 가지는 태도가 딱 그랬다. 그는 모건에게 염색체를 증명할 독립적인 증거를 원했다. 베이트슨 자신도 유전학 연구에 평생 종사한 사람인 만큼 이런 요구가 너무 과하다는 것을 모를 리 없었다. 베이트슨 역시 하나의 가설은 한 단계 한 단계 성공을 향해 나아가는 것이지, 갑자기 하늘에서 뚝 떨어지듯 성취되는 것이 아니라는 것을 잘 알았다. 그러니 그런 과정을 기다려주어야 했다.

베이트슨이 인내심 없이 모건에게 염색체 가설을 당장 증명하라고 힐문한 것은 그의 철학적 관점 때문이었다. 그는 일찌감치 생명 현상은 물질 그 자체에서 설명을 얻을 수 없으며, 그래서도 안 된다고 단언했다. 그가 보기에 어떠한 물질 구조를 이용한 가설로도 생명의 신비를 해석할 수는 없었다. 베이트슨은 염색체든 혹은 다른 어떤 ‘복잡한’ 물질 단위든 절대로 유전 물질 매개체가 될 수 없다고 여러 차례 강조했다. 다시 말해 생명을 신비화하는 관념주의 철학을 가지고 있었다. 관념주의 철학에서는 생명과 물질이 절대로 상호 독립적인 존재가 될 수 없다. 또한 물질 활동으로 생명 현상을 설명하는 것도 불가하다. 유전이란 생명 현상 중에서도 특히 신비한 영역으로 여겨졌다. 이런 철학 사상을 가진 베이트슨은 당연히 염색체 가설에 반대했으며, 그 가설이 일고의 가치도 없다고 여겼다.

베이트슨이 저지른 이런 실수에 대해 앨런은 정확하게 분석했다. ‘베이트슨의 논점 이면에는 그 자신도 알아차리지 못한 경향성이 숨겨져 있었다. 그것은 바로 관념주의 철학 그리고 과학 영역에서 유물주의 이론을 인정하지 않는 것이었다. (……) 베이트슨의 실수는 추상적이고 관념적인 멘델 이론과 염색체 이론이 결합해야 한다는 필요성을 간과한 데 있었다.’ 베이트슨의 반대는 당시 유전학의 발전을 크게 저해했다. 지금 우리는 생명 현상에서 유전 물질이 무언가에 의해 운반된다는 개념에 익숙하기에 누군가 이런 사실에 이의를 제기하면 깜짝 놀랄 것이다. 하지만 생명 현상이 모종의 실체가 있는 ‘매개체’를 기초로 하여 일어난다는 생각은 1920년대에는 몹시 낯설고 대담한 것이었다. 이는 과거의 전통과 근본적으로 결별하는 위대한 움직임이었다. 이런 중요한 전환기에 베이트슨은 자신의 철학 사상 때문에 시대의 흐름에 역행하는 보수파가 되고 말았다.



수학자의 흑역사



수학자와 물리학자의 대결

수학자 다비트 힐베르트 평전에는 이런 말이 있다. ‘만약 “가장 위대한 현대 물리학자가 누구인가?”라고 묻는다면 대개 “아인슈타인”이라고 답할 것이다. 그럼 “아인슈타인과 비슷할 정도로 위대한 수학자가 누구인가?”라고 묻는다면, 정답은 “힐베르트”다.’ 힐베르트는 다른 수학자들과 마찬가지로 독일 수학의 우수한 전통을 이어받아 발전시켰으며, 수학 이론을 깊이 연구하면서 물리학에도 깊은 관심을 보였다. 전기 작가인 콘스탄스 리드는 힐베르트가 1912년(당시 50세였음)에 “물리학자가 되었다”라고 썼으며, 그때 다음과 같이 말했다고 했다. “물리학은 물리학자들에게 너무 힘든 일이다.”

이 말은 물리학이 자신과 같은 수학자들이 해야 할 일이며 물리학자들은 잘하려고 해봐야 소용없다는 뜻이었다. 그래서 그는 아주 자신만만하게 말했다. “우리는 이미 수학을 개조했다. 다음 단계는 물리학을 개조하는 것이며, 그다음 차례는 화학이다.” 힐베르트는 화학을 물리학보다 더 낮잡아 보았다. 그러나 10년이 지나 1922년이 되자 “힐베르트는 더 이상 물리학자가 아니었다.” 물리학이 10년 전에 생각했던 것처럼 간단한 일이 아님을 알아차렸기 때문이었다. 힐베르트는 한숨을 쉬며 이렇게 말했다고 한다. “물리학은 역시 물리학자가 하는 것이 좋겠다.” 자기 분야를 넘어 월권행위를 하려 들면 꼭 사달이 난다. 이제 정확히 어떤 월권행위와 사달이 있었는지 살펴보기로 하자.

힐베르트가 수학계에서 전성기를 누릴 때, 물리학계에서도 격변이 일어나고 있었다. 1895년, 독일 뮌헨대학교의 교수 빌헬름 콘라트 뢴트겐이 X선을 발견했고, 1896년에는 프랑스 물리학자 앙투안 앙리 베크렐이 방사선을 발견했으며, 1897년에는 영국 물리학자 조지프 존 톰슨이 전자를 발견했다. 연이은 물리학적 발견은 고전물리학에 큰 충격으로 작용했다. 물리학은 심각한 위기에 봉착했고, 이론적으로 혼란이 가중되었다. 1900년에 독일의 막스 플랑크는 양자 이론을 제창했고, 1905년에는 아인슈타인이 특수상대성이론을 발표했다. 10년이란 짧은 기간에 위대한 물리학 발견이 우후죽순 쏟아졌다.

힐베르트는 단지 기뻐하는 데 그치지 않고, 물리학 혁명 과정에 직접 참여했다. 가장 놀라운 부분은 그와 아인슈타인이 거의 동시에 일반상대성이론의 목적지에 도착했다는 것이다. 아인슈타인은 1915년 11월 11일과 25일에 2편의 일반상대성이론 논문을 제출했다. 힐베르트는 같은 해 11월 20일에 「물리학의 기초」라는 논문을 발표했는데, 이 역시 일반상대성이론의 여러 내용을 다룬다. 그런데 목적지는 같았지만 도달하는 방식은 달랐다. 아인슈타인은 우회적이면서 물리학자의 사고방식이 잘 드러나는 방법을 썼고, 힐베르트는 직접적이면서 수학자의 사고방식이 확연한 방법을 썼다.