소수는 어떻게 사람을 매혹하는가?

소수는 어떻게 사람을 매혹하는가?



다케우치 가오루 지음

사람과나무사이 / 2018년 3월 / 220쪽 / 14,500원





매미에서 법률까지, 세상을 움직이는 숫자 소수



매미가 소수인 13년, 17년 주기로 대량 발생하는 이유



‘여름’ 하면 머릿속에 가장 먼저 어떤 곤충이 떠오르는가? 그렇다, 매미! 매미는 단연 여름을 대표하는 곤충이라 할 만하다. 여름 곤충 매미 이야기로부터 시작해 보자. 우리가 흔히 보는, 귀가 아플 만큼 큰 소리로 ‘맴맴’ 하고 우는 매미는 ‘히라구시’라는 매미와는 다른 종류다. 히라구시는 일본에도 사는데, 원산지는 바다 건너 미국이다. 주로 저녁에 울어 ‘저녁매미’라는 이름으로도 불린다.

이 매미에 관해 가장 주목할 만한 특징은 소수를 영리하게 이용하며 살아간다는 점이다. 소수의 해에 태어나는 매미가 있다. 우리는 이 매미를 ‘소수 매미’라는 이름으로 부른다. 이 매미는 ‘주기 매미’라는 별명도 가지고 있으며, 13년 또는 17년을 주기로 대량 발생한다.

미국의 어느 지역에는 크게 두 종류의 매미가 서식한다. 그중 하나는 17년 주기로 발생하는 매미이며, 다른 하나는 13년 주기로 나타나는 매미다. ‘17년 매미’의 경우를 먼저 예로 들어 보자. 이 매미가 만일 2008년에 대량으로 나타났다고 하면, 그다음 나타나는 시기는 2025년이다.

17년 매미가 나타나는 해를 제외한 나머지 16년 동안에는 이 매미가 존재하지 않는 것처럼 생각하기 쉽다. 그러나 17년에 해당하지 않는 해에도 이 매미가 존재하지 않는 건 아니다. ‘17년 매미’라는 이름으로 뭉뚱그려 부르기는 하지만, 애초 이 매미는 16종이나 존재했다고 한다. 그러므로 거의 매년 ‘17년 매미’가 발견된다 해도 이상하지 않다. 아무튼, 그중 일부가 멸종한 모양이다.

현재 확실히 멸종했다고 밝혀진 17년 매미는 1954년에 대량으로 발생했던 종이다. 1954년형 17년 매미는 그로부터 17년 후인 1971년에 대량 발생해야 했지만 멸종해 버려 모습을 드러낼 수 없었다. 멸종 이유로는 포식자 수가 그 무렵 급격히 늘어나 잡아먹히는 바람에 수가 현격히 줄어들고 급기야 멸종한 것으로 추정된다.

갓 태어난 매미는 포식자 입장에서는 군침이 흐르는 먹음직스러운 먹잇감이다. 다양한 날짐승과 길짐승은 말할 것도 없고 일부 인간까지도 매미를 잡아먹는다. 실제로 아메리카대륙의 원주민인 오논다 종족은 17년 매미를 오랫동안 먹어 왔다. 매미 입장에서 보면 17년이라는 긴 시간을 땅속에서 지내다 밖으로 나오자마자 잡아먹혀 버리니 마른하늘에 날벼락이 아닐 수 없다.

1954년형 17년 매미가 멸종한 데에는 서식 공간이 좁아지고 환경이 척박해졌다는 점도 무시할 수 없는 원인으로 꼽을 수 있다. 예컨대 겨우 땅 밖으로 나와 번데기 상태를 벗어나 허물을 벗고 날개를 펴고 날아오르려 했는데, 머리 위가 콘크리트로 막혀 있다면 아무리 애를 써도 밖으로 나갈 재간이 없다. 매미의 처지가 딱하고 안쓰러워 마음이 아플 지경이다.

1996년, 이 ‘소수 매미’에 관해 로이드와 다이버스라는 두 학자가 처음으로 논문을 썼다. 그들은 17년마다 대량으로 발생하는 매미를 관찰하다가 17이라는 소수에 뭔가 특별한 의미가 있지 않을까 생각했다. 로이드와 다이버스의 논문은 상당히 복잡해서 대중이 이해하기 쉽지 않다. 그 내용을 요점만 간략히 설명하자면, ‘13년이나 17년 등 소수의 해마다 대량으로 발생하기’는 매미에게 매우 효과적인 생존 전략이라는 것이다. 그것이 왜 효과적인 전략인지 살펴보자.

매미의 기상천외한 생존 전략



매미처럼 작고 맛난 곤충은 포식자의 구미를 당기는 좋은 먹잇감이다. 그러므로 매미의 입장에서는 포식자의 위협으로부터 생명을 지키고 종을 보존하기가 녹록지 않은 일이다. 그러나 아무리 많이 잡아먹혀도 살아남는 개체가 일정하게 존재한다면 멸종하지 않고 종을 유지, 번식할 수 있다. 종족 보존을 위해 매미들이 취한 수단이 바로 일정한 주기마다 대량으로 발생하는 방법이다. 인해 전술, 아니 ‘충해 전술’인 셈이다.

생물학자들에 따르면 과거에는 12년 매미, 14년 매미, 15년 매미, 16년 매미, 18년 매미 등 다양한 종의 매미가 서식했다고 한다. 그중 화석이 남아 있는 종도 있으므로 이는 확실히 믿을 만한 사실이다. 그건 그렇고, 그 매미들은 왜 멸종되고 말았을까?

가장 큰 원인은 ‘교잡’ 때문이다. 먼저, 짝수 해에 태어난 매미는 홀수 해에 태어난 매미에 비해 훨씬 불리할 수밖에 없다. 12년 매미와 8년 매미를 예로 들어 생각해 보자. 12년 매미와 8년 매미가 있다면 12와 8의 최소공배수가 24이므로 24년마다 발생 시기가 겹치고 교잡이 발생하기 때문이다. 가령 12년 매미만 자손을 만든다면 주기는 유전으로 전해지지만, 아비와 어미가 8년과 12년이라면 그 종이 발생하는 주기는 ‘뒤섞여’ 엉망진창이 되어 버린다.

정해진 해에 집중적으로 대량 발생하는 것이 매미의 생존 전략이다. 한데 교잡이 일어나면 심각한 문제가 발생한다. 번데기에서 허물을 벗고 성충이 되는 해가 뒤죽박죽되어 대량 발생이 아닌 소량 발생이 되어 다 된 밥에 코를 빠뜨리는 격이 되고 죽도 밥도 안 되는 거다. 차츰 수가 줄어들다가 마침내 멸종의 길로 들어서게 된다.

여기서 ‘소수’의 성질이 효력을 발휘한다. 소수인 7과 소수가 아닌 12를 예로 들어 보자. 두 숫자의 최소공배수는 7 곱하기 12인 84이다. 그러므로 84년이 지나기 전에는 두 종의 매미가 동시 발생할 가능성이 전혀 없다는 계산이 나온다. 앞에서 살펴본 8과 12의 최소공배수는 24였다. 8과 12에는 4라는 공약수가 있으므로 최소공배수가 훨씬 작아진다. 그에 반해 소수는 다른 수와 공통의 약수를 갖지 않아 최소공배수가 커지고 자연스럽게 동시 발생하는 간격도 엄청나게 벌어진다. 이런 이유로 13년과 17년 종만 순수 혈통을 보존해 항상 대량 발생하므로 효율적으로 살아남을 수 있었다는 것이 많은 연구자의 공통된 인식이다.

지금까지 살아남은 13년 매미와 17년 매미의 교잡도 고려해 볼 수 있지 않을까. 이 둘의 최소공배수는 221이므로, 매우 긴 시간 동안 발생 시기가 겹치지 않는다. 바로 이런 이유에서 이 두 종류가 오늘날까지 살아남았다고 추정해 볼 수 있다. 물론 13년 매미나 17년 매미가 소수의 원리를 간파하고 의도적으로 그런 선택을 했을 리는 없다. 생물계에서 소수 해에 우연히 발생하는 종이 진화론적으로 유리하다는 이야기는 매우 흥미로울 뿐 아니라 우리의 상상력을 자극한다.

소수가 법을 만나면?



2001년 미국에서 DVD를 복제하는 프로그램을 제작해 공개한 일당이 저작권 침해 죄로 기소되어 패소하는 사건이 발생했다. 사건 내용을 잠시 들여다보자. 그 프로그램을 사용하는 것은 위법일 뿐 아니라 프로그램을 구성하는 문장 자체(소스 코드)를 공개하는 것도 위법이라는 판결이었다. 하지만 이에 대한 반론이 제기되었다. 프로그램 사용이 위법이라는 판정은 납득할 수 있지만, 저작물인 프로그램을 공개하지 말라는 판결은 언론의 자유를 침해한다는 주장이었다. 또한, 컴퓨터 업계에서는 이 판결이 부당하다는 주장도 제기되었다.

프로그램을 공개하면 사실상 누구나 자유롭게 사용할 수 있다. 그러나 그 프로그램을 구체적으로 사용하는 주체는 프로그래밍 기술을 지닌 사람으로 한정된다. 이 말은 소스 코드를 대중에 공개한다고 해도 별다른 영향이 없을 것이라는 의미다. 컴퓨터 업계에서는 ‘우리가 만든 프로그램을 공개할 자유가 없다는 건 부당한 일이다’라며 거세게 항의했다.

좀 더 쉽게 이야기하면, 지금 나는 컴퓨터로 글을 쓴다. 그런데 이 글을 구성한 글자 하나하나는 컴퓨터에서의 숫자의 나열에 지나지 않는다. 그러므로 전자서적으로 만들어진 문학 작품도 숫자를 줄줄이 늘어놓은 숫자 나열에 불과하다. 문자 정보와 숫자는 대응 규칙이 정해져 있어 동일한 대상으로 간주할 수 있다.

컴퓨터 프로그램도 문자의 나열이지만 소스 코드도 마찬가지로 숫자로 인식되어 처리된다. 예전 프로그래머는 숫자를 구사해 프로그램을 썼다. 기계가 이해하는 언어라는 의미에서 이것을 ‘기계어’라고 부른다. 다만 기계어는 단순한 숫자에 지나지 않으므로 과거에 기계어로 프로그램을 짜는 과정은 만만치 않은 기술과 수고가 필요한 작업이다. 그런 까닭에 기계어에서 고등 언어라는 인간이 이해하기 쉬운 프로그램 언어를 다양하게 만들어 냈다.

이런 맥락에서 DVD 복제 프로그램도 숫자의 집합에 불과하다. 그러므로 이 숫자가 위법이라는 판결은 확실히 이상한 이야기다. 이 숫자를 체포해 옥살이를 시키기라도 하겠다는 말인가?

1,401자리 소수가 재판에 회부되어 위법 판정을 받았다고?



언론의 자유, 아니 소tm 코드의 자유가 침해당했다며 위기감을 느낀 컴퓨터 과학자들은 대중의 관심을 불러모으기 위해 위법한 소스 코드의 숫자를 소수로 만든다는 기발한 발상을 했다. 체포되어 투옥되는 숫자가 단순한 숫자이기보다는 수학 세계에서 유명인이라 할 수 있는 ‘소수’인 편이 사회적으로 파장이 크다는 생각에서였다.

미국 테네시 대학교 마틴 캠퍼스가 소수 데이터베이스를 관리한다. 그러므로 DVD 복제 프로그램에 대응하는 숫자가 이 데이터베이스에 등재되어 있는 소수라면 학술적으로 모두 공개할 수 있다. 필 카모디는 이 DVD 프로그램을 손본 다음 데이터베이스에 올라 있는 소수로 절묘하게 교환했다. 그 수는 무려 1,401자리 소수였다. 컴퓨터에 이 소수를 입력하면 DVD를 복제해 주는 방식으로 사용할 수 있다. 이 1,401자리 소수는 위법 판정을 받은 DVD 복제 프로그램의 소스 코드이므로 당연히 그로 인한 사달이 벌어졌다. 그 숫자를 공개한 학술 데이터베이스는 과연 법을 위반했을까? 이 소동으로 이 숫자에는 ‘위법 소수’라는 불명예스러운 이름이 붙었다.

숫자는 만국공통의 기호다. 그 숫자를 세상에 내보내는 행위가 위법하다면 우리는 새삼 ‘프로그램이란 무엇인가?’라는 의문을 인식하지 않을 수 없다. ‘위법 소수’라는 희한한 단어에는 ‘인류가 공유하는 문화유산인 숫자를 공표하는 행위가 과연 위법한가?’라는 강력한 항의의 의사가 담겨 있다.



우주의 비밀을 쥔 숫자, 소수



물리학자들의 우주 기술 방정식에 ‘까꿍’ 하고 얼굴을 내미는 소수



수학과 물리학의 차이를 책에 비유하면, ‘픽션’과 ‘논픽션’ 차이와 같다. 전자는 꿈을 다루고 후자는 현실을 다룬다. 책에서 사용하는 ‘문법’은 수식 세계의 ‘논리’에 해당한다. 그러므로 학자들은 엄격한 논리성에 따르는 한 수식으로 어떠한 우주를 상상하든 괘념치 않는다. 소설과 마찬가지로 수학은 철저히 자유로운 세계다. 그에 비해 물리학자들은 ‘이 우주’라는 현실에 얽매인다. 아무리 훌륭한 물리학 이론이라도 실험과 관측을 거친 결과 이 우주에 통용되지 않는다면 실격이다.

꿈과 현실. 이 두 가지는 서로 공존할 수 없는 법. 하지만 속단은 금물이다. 나는 요즘 들어 부쩍 ‘현대 물리학이 점점 더 SF에 가까워지고 있다’는 느낌을 강하게 받는다. 예를 들어 물리학자들은 ‘우주는 11차원이다’ 혹은 ‘다중 우주’ 등의 꿈같은 연구를 진행하고 있다.

본래 이 우주는 공간 3차원과 시간 1차원을 합쳐 4차원으로 펼쳐진다. 아인슈타인은 이 3차원과 1차원이 ‘뒤섞일 수 있다’고 주장해 전 세계 과학자들에게 충격을 안겨 주었다. 실험과 관측이 뒷받침하는 우주는 4차원에서만 펼쳐진다.

이 우주는 ‘유일’하다는 의미의 ‘유니’가 붙어 ‘유니버스’라 불린다. 그런데 만약 우주가 여러 개 존재한다면, 또 우주가 유일하지 않다면 ‘많은’이라는 뜻의 ‘멀티’를 붙여 ‘멀티 유니버스’라 부를 수 있다. 실제로 오늘날 이론 물리학자들은 다중우주에 관해 활발히 연구를 진행하고 있다. 쉽게 말해, 이는 SF의 평행우주와 비슷한 발상이다. 전통을 고수하는 보수적인 실험물리학자들은 마치 꿈을 좇는 듯한 이론물리학자들의 ‘자유로운 낙원’을 차가운 눈으로 바라본다. 심지어 그들은 ‘허황된 이야기’, ‘물리학이 아니다’라는 비판도 서슴지 않는다.

물리학자들이 우주를 기술하는 방정식을 연구하다 보면 소수가 ‘까꿍’ 하고 얼굴을 내미는 순간이 있다. 학자들은 ‘도대체 이 녀석이 어디서 튀어나왔을까?’ 하며 소수의 등장에 고개를 갸웃거린다. 이렇게 사람을 매혹하는 숫자 소수는 우주의 생성과 작동에도 은밀히 참여하는 놀랍고 신바한 숫자다.

원자핵 에너지와 제타 함수 영점의 관계



8제타 함수가 지닌 소수 정보가 우주의 복잡하고도 정밀한 구조와 밀접하게 관련되어 있지는 않을까? 1972년 어느 날, 이론 물리학자인 프리먼 다이슨의 품으로 수학의 ‘천사’가 기적처럼 날아들었다. 당시 다이슨은 ‘네 번째 남자’로 통했다. 즉, 그는 ‘노벨상을 안타깝게 놓친 사람’이었다. 통상적으로 노벨상은 한 분야에서 세 명까지 결정된다. 그런 까닭에 1965년 도모나마 신이치로, 줄리언 슈윙거, 리처드 파인만이 노벨 물리학상을 수상할 때 다이슨은 안타깝게도 네 번째 자리에 밀려나 수상하지 못했다.

노벨상 수상 여부와는 무관하게 다이슨은 대단히 천재적인 과학자다. 그는 늘 기상천외한 발상을 하는 인물로, 그의 아이디어는 과학의 영역을 벗어나 SF에까지 심대한 영향을 끼쳤다. 항성을 통째로 구로 감싸서 에너지를 제공한다는 ‘다이슨구(Dyson sphere)’는 매우 유명하다. 다이슨은 무거운 원자핵 에너지를 나타내는 공식과 제타 함수가 ‘연결된다’는 사실을 최초로 깨달은 인물이기도 했다.

▲ 다이슨의 의문 - 원자핵 에너지는 제타 함수의 영점과 관계되어 있을까?



원자핵은 원자 한가운데에 자리하고 있고, 주위 원자의 구조를 안정적으로 유지하는 역할을 한다. ‘원자=원자핵+전자’라는 구조로 이루어져 있다. ‘핵’이라는 말처럼, 우주를 구성하는 물질 중에서 말 그대로 핵심이 되는 부분이라고 이해하자. 원자핵의 에너지는 양자역학이라는 물리학 이론으로 설명된다. 양자역학은 분자보다 작은 원자와 전자의 세계를 지배하는 물리학 법칙이다.

우리의 일상생활은 뉴턴 역학으로 완벽하게 설명되지만, 눈에 보이지 않을 만큼 극도로 작은 세계에서는 전혀 다른 원리가 적용된다. 그곳에서는 매사가 오로지 확률로만 결정되거나 전자가 동시에 두 곳에 존재하는 등 상식으로는 이해할 수 없는 불가사의한 현상이 생긴다. 이 양자역학은 ‘디지털’의 특징도 가지고 있다.

학교에서 배우는 뉴턴 역학의 에너지는 속도와 질량이 약간만 바뀌어도 에너지의 양도 그에 비례해 변화한다. 이것을 그래프로 그리면 완만한 선을 그린다. 말하자면, 뉴턴 역학은 아날로그의 세계이다. 그에 비해 원자핵의 세계는 디지털 세계로 이루어져 있고, 에너지도 계단 모양으로 변화한다. 원자핵 에너지를 그래프로 그리면 각진 계단 모양이 만들어진다.

과학사를 뒤바꾼 물리학자와 수학자의 티타임



다이슨의 ‘발견’ 계기는 휴 몽고메리라는 인물과의 만남에 있었다. 다이슨이 적을 두고 있던 프린스턴 고등연구소에서는 정해진 ‘티타임’이 있었다. 그 티타임 시간에 물리학자와 수학자가 토론을 벌이거나 담소를 나눌 기회가 있었다. 두 사람은 바로 의기투합했고, 서로의 분야가 밀접히 관련되어 있다는 사실을 깨달았다.

다이슨 : 어떤 연구를 하십니까?

몽고메리 : 리만 제타 함수 영점 분포를 찾는 중입니다.

다이슨 : 오~ 그걸 식으로 가르쳐 주실 수 있을까요?

몽고메리 : (냅킨에 메모하며) 상관계수가 이런 모양이고….

다이슨 : 바로 이거야! 몽고메리 씨가 쓴 수식은 무거운 원자핵의 에너지 단위와 똑같군요. 깜짝 놀랐습니다!

그 순간, 두 사람은 원자핵 에너지가 리만 가설과 관계 있다는 사실을 깨달았다. 원자핵 에너지의 간격과 제타 함수의 영점 간격은 소수 계단의 계단 너비와 같다. ‘원자핵 에너지 계단과 소수 계단이 똑같아 보인다’는 의미일까?