이토록 재미있는 수학이라니

이토록 재미있는 수학이라니

리여우화 지음

미디어숲 / 2020년 7월 / 359쪽 / 24,800원



시도하는 자가 수학보석을 캘 수 있다



싸우지 않고 케이크를 나눠 먹는 방법 - 공평분배

케이크 하나를 친구와 나눠 먹어야 할 때 어른들은 두 조각으로 나누기만 하면 된다고 조언한다. 그래서 나는 주어진 케이크를 두 조각으로 나눈 후, 그중에 하나를 친구가 먼저 선택하게 하고 나머지 하나는 내가 가졌다. 나는 이 방법이 적절하다고 생각했다. 왜냐하면 케이크를 두 조각으로 나눌 때 ‘만약 내가 나눈 케이크가 동일한 양이 아니면 상대방은 더 큰 조각을 택할 것이고, 그래서 나는 최대한 같은 크기로 두 조각을 내야 한다’고 생각했기 때문이다. 따라서 앞의 방법은 상대방이 가져간 조각이나 내가 선택한 조각이나 모두 손해를 보지 않는 결과로 서로가 ‘공평’하다고 느끼게 되는 멋진 해법이다. 만약 세 명이 하나의 케이크를 나누어야 하는 경우, 같은 방법으로 잘 나눌 수 있을까?

한 사람이 케이크를 먹는 방법은 ‘공평’하고 ‘질투’를 면할 수 있다. 다른 사람에 비해 많고 적은지를 고민할 필요가 없기 때문이다. 앞에서 말한 두 명이 케이크를 나누어 먹는 방법도 이 두 가지 기준(공평과 질투)을 만족시킨다. 세 명이 케이크를 나누는 문제도 질투 없는 ‘공평’한 문제 해결이 가능하다는 것을 누군가가 찾았고, 이 방법은 여전히 끊임없이 연구되고 있다. 그중 하나를 소개하겠다.

일찍이 1960년에 수학자 존 셀프리지는 방법 하나를 소개했다. 그는 이 방법을 친한 친구이자 수학자인 리처드 K.가이에게 알려주었는데, 이후 리처드 K.가이가 다른 많은 사람에게 이를 소개했다. 그러나 당시 그들은 이 발견을 대수롭지 않게 여겼다. 그래서 정식으로 학계에 발표를 한 적이 없다. 이 발견은 단지 항간에 한동안 떠돌았을 뿐, 그다지 큰 파문을 일으키지는 못했다.

1993년에 수학자 존 호턴 콘웨이는 독립적인 해법-생명게임(CGOL:Conway’s Game of Life)-을 발견했다. 신기한 것은 케이크를 공평하게 나누는 방법을 발견한 수학자 이름이 모두 존(John)이라는 것과 그들은 모두 정식 발표를 하지 않고 비공식적으로 교류를 했다는 것이다. 그러나 이후에는 일반 과학 및 전문적인 학술기사에서 이 방법을 언급하고 있다. 현재 이 방법은 두 수학자의 성을 따와서 ‘셀프리지-콘웨이 분할 절차’라고 부른다. 당신의 이해를 돕기 위해 하나의 이야기를 통해 이 방법을 소개하려고 한다.

어느 절에 3명의 승려가 있는데, 한 명은 통통하고 한 명은 키가 크고 또 한 명은 키가 작았다. 이 3명의 승려가 케이크를 공평하게 나누는 상황을 설명하려고 한다. 이들은 평소 매우 이기적이어서 조금도 손해를 안 보려고 한다. 어느 날 물이 극도로 부족해서 밥도 제대로 못해 먹는 상황이 되었고 승려들은 굶주림에 매우 허기진 상태에 이르렀다. 그때 지나가던 행인이 우연히 이 절을 방문하게 되었고 절에서 하룻밤을 묵기로 했다. 행인은 “보아하니 세 분은 너무 오래 굶주려 매우 배가 고플 거 같으니 제가 가지고 있는 케이크를 하나 드리겠습니다. 공평하게 나눠 먹으세요.”라고 말했다.

세 승려는 이 케이크를 어떻게 나누어야 할지에 대해 격렬하게 논쟁하기 시작했고 어느 누구도 손해를 보지 않으려고 고집을 피웠다. 그러자 행인이 “싸우지 마세요! 저에게 좋은 방법이 하나 있어요!”라며 싸움을 말렸다. “키 작은 승려가 먼저 와서 이 케이크를 세 조각으로 나누세요. 그런데 기억해야 할 것은 다른 두 사람이 선택한 후 최후에 남은 한 조각이 당신 것이라는 거예요. 그래서 당신이 케이크를 자를 때 최대한 동일한 양으로 잘라야 해요.” 키 작은 승려는 이 방법이 아주 훌륭하다고 생각되진 않았지만, 최선이라고 생각하고 최대한 공평하게 세 등분하려고 시도했다.

이어 행인이 통통한 승려에게 “만약 당신이 첫 번째로 선택한다면 어느 조각을 선택하고 싶나요?”라고 물었다. 통통한 승려는 마음속으로 ‘이 문제는 나에게 유리해. 내가 골라서 선택할 수 있네.’라고 기뻐하며 바로 제일 커 보이는 케이크 조각을 선택했다. 하지만 행인은 이어서 “천천히 골라요. 당신은 이제 남은 두 조각을 가져갈 수 없어요. 지금 남은 두 조각 중 하나를 선택하라면 당신은 비교적 큰 것을 선택하겠죠?”라고 말했다. 통통한 승려는 행인이 무슨 꿍꿍이가 있는지는 모르겠지만 바로 커 보이는 조각을 선택했다. 그런 다음 통통한 승려는 “지금 내가 이 케이크 조각을 가져갈 수 있나요?”라고 물었다.

행인은 “아니요.”라며 이렇게 말했다. “방금 당신은 제일 큰 조각과 그 다음 큰 조각을 선택했어요. 그럼 지금 당신이 선택한 것 중에서 제일 큰 조각을 조금 잘라서 그 다음 선택한 조각의 크기가 완전히 똑같게 만드세요.” 통통한 승려는 그 말을 듣자마자 맥이 빠졌다. ‘애초부터 나를 시험하려는 거였어.’ 그러나 다른 뾰족한 수도 없으니 지금은 행인의 말을 들어야 한다고 생각했다. 그래서 그는 더 큰 조각을 선택해 그 다음 조각과 완전히 같아지도록 그 차이만큼 조금 잘라내었다.

행인은 “좋아요, 이제 키 큰 승려 차례가 왔어요. 당신은 키 작은 승려가 나눈 이 세 조각 중에 아무거나 하나를 선택할 수 있어요. 그 중에는 통통한 승려가 조금 잘라낸 케이크도 있어요. 만약 당신이 조금 베어진 케이크가 마음에 든다면 그 케이크를 선택할 수 있어요.” 키 큰 승려는 이 말을 듣고 너무 기뻐 ‘내가 제일 먼저 선택하는 거였구나!’라며 신이 났다. 키 큰 승려는 세 조각의 케이크를 본 후, 통통한 승려가 두 번째로 선택한 것이 자기 생각에 제일 마음에 들었고 그것을 선택했다.

그러자 행인이 “통통 승려님, 지금 키 큰 승려가 두 번째로 당신이 선택한 케이크가 마음에 든다고 하는군요. 당신이 자른 케이크는 가져가지 않았어요. 그러니 당신은 당신이 베어낸 첫 번째 케이크를 반드시 선택해야 하네요. 당신은 방금 당신이 베어 낸 케이크가 제일 마지막 케이크보다 낫다고 생각했으니 당신이 이 조각을 가진다 해도 어떤 불만도 없을 거 같네요.”라고 했다.

통통 승려도 사실은 그리 생각했고 자신이 베어냈던 그 케이크를 가져갔다. 이후 행인은 이렇게 말했다. “키 작은 승려님, 남은 조각을 가져가면 됩니다. 이 케이크는 당신이 직접 나눈 것이지요. 뿐만 아니라 당신은 세 조각 모두 크기가 똑같도록 나누었으니 당신도 어떤 불만이 없을 거예요.” 키 작은 승려는 곧장 마지막 남은 케이크를 가져갔다. 남은 케이크를 가져가던 키 작은 승려는 이렇게 말했다. “잠시만요, 여기에 통통 승려가 잘라 낸 작은 조각이 남아 있어요. 이 조각의 크기는 작지만 낭비하는 것도 좋지 않아요.” 행인은 뭔가 알고 있다는 듯이 허리를 꼿꼿이 세우며 말했다. “맞아요, 그건 지금 이 과정에서 잘라 낸 작은 조각이에요. 키 큰 승려님, 이리로 오세요. 이 조각을 공평하게 삼등분 해주세요.” 키 큰 승려는 아주 조심스럽게 작은 조각을 세 조각으로 나누었다.

그러자 행인이 이어서 말했다. “이번에는 통통 승려가 먼저 한 조각을 가져가세요.” 통통 승려는 자기 마음에 드는 한 조각을 가져갔다. 그런 후에 행인이 다시 말했다. “키 작은 승려님도 와서 하나 고르세요.” 키 작은 승려도 자기 마음에 드는 케이크를 선택했다. 최후에 키 큰 승려가 남은 조각을 가져갔다. 행인은 덧붙여 이렇게 마무리했다. “좋아요, 케이크는 모두 나누었고 세 분 모두 만족하시죠?” 세 명의 승려는 마음속으로 계산하기 시작했다.

‘① 통통 승려의 생각 - 제1라운드에서 내가 가져가서 조금 베어냈던 그 케이크는 키 큰 승려가 가져간 케이크와 크기가 같아. 그리고 키 작은 승려 것과 비교해도 내 것이 더 마음에 들어. 제2라운드 때도 내가 제일 먼저 선택했잖아. 그러니까 키 큰, 키 작은 승려가 가져간 것보다 당연히 크지. 그래서 나는 조금의 불만도 없어. 마음에 들어! ② 키 큰 승려의 생각 - 제1라운드에서 내가 첫 번째로 선택했고, 그러니까 통통, 키 작은 승려 것보다 내 것이 당연히 크지. 제2라운드에서는 내가 케이크를 나눴잖아. 내가 똑같이 삼등분한 거니까, 나는 마음에 들어. 두 번의 과정에서 나는 분명히 두 명의 것보다 큰 조각을 가져갔어. 난 결과에 만족해.

③ 키 작은 승려의 생각 - 제1라운드에서 나는 내가 자른 것을 가져왔어. 이 케이크는 키 큰 승려의 그 케이크와 크기가 같아. 그런데 통통 승려가 베어내어 가져갔던 그 케이크보다도 조금 많아. 제2라운드에서 나는 키 큰 승려보다 먼저 선택했어. 그러니까 당연히 내가 키 큰 승려보다 더 큰 조각을 가져왔어. 만약 내 것과 통통 승려의 것을 비교해야 한다면 통통 승려는 내가 처음에 잘랐던 1/3을 가져갔어야 해. 잘라 낸 그 작은 조각은 나와 키 큰 승려도 조금씩 더 나눠 가졌잖아. 그래서 통통 승려는 결국 내가 제1라운드에 가져간 것에 미치지 못해. 나는 통통 승려에 비해 많이 가져왔어. 그래서 이번 케이크를 나눈 것에 매우 이익을 봤지.‘

결론은 세 승려 모두 자기가 가진 것이 다른 사람 것에 비해 적지 않고 많다고 여겼다. 그래서 세 승려 모두 만족했고 행인도 아주 원만하게 문제를 해결하게 되었다! 이상 케이크를 공평하게 나누는 이야기는 셀프리지-콘웨이 분할 절차를 재구성한 것이다. 좀 더 부연 설명을 하자면, 이 이야기는 모든 가능한 선택을 보여주지는 않지만 이미 전체 과정을 설명하기에 충분하다. 이 절차는 ‘질투 없는’의 목표가 실현가능하다는 것을 보여준다. 즉 최종적으로 분석할 때, 각 승려는 각자의 주판을 두드리며 계산했고 어느 누구도 다른 사람의 것보다 적다고 생각하지 않았다(오히려 자신의 것이 크거나 같을 것이라고 예상했다). 당신은 이 방법이 4명 이상인 상황에서도 확대적용 가능한지 궁금하지 않은가?

1990년대에 사람들이 발견한 네 명 또는 그 이상의 공평분배 방법은 모두 무한 분할 절차를 밟아야 한다. 혹자는 좀 더 정확하게 ‘질문 절차’라고 말한다. 이것은 케이크를 나누는 사람에게 질문-어느 부분을 원하느냐, 무엇을 가져가는 게 제일 좋겠느냐 등-을 해나가는 것이다. 케이크 공평분배문제에서 ‘질문’은 가장 중요한 절차이다. 왜냐하면 매 번의 질문으로 한 번의 칼질이 결정되기 때문이다. 뿐만 아니라 만약 연속적으로 케이크를 얻어야 한다면 ??명이 있을 때, 최대 ??-1번의 칼질이 필요하다. 그래서 분할방법이 좋은지 아닌지는 ‘질문’의 횟수에 따라 결정된다.

90년대 말에 이르러 다양한 분할방법이 발견됐지만 이 방법들은 모두 무한 번의 질문 절차가 필요하다. 2000년부터 2010년까지 10년 동안 사람들은 케이크를 연속적으로 요구하는 또는 요구하지 않는 경우, 질문횟수의 하한을 연구했다. 만약 끊임없이 연속된 케이크라면 이 하한 또한 무한히 클 것이다. 즉 질문횟수를 제한하는 방법만으로 모두가 만족하는 연속된 케이크를 자르지 못했다는 것을 증명했다. 오랜 시간 동안 사람들은 연속된 케이크의 상황에서 유한분할절차가 있는지를 고민했다. 우리는 하한이 존재한다는 것은 알지만 상한(上限)에 대해서는 알 수가 없었는데, 2016년에 비로소 두 명의 오스트레일리아 연구자에 의해 의문이 해결되었다. 네 명 또는 그 이상일 때, 결과가 완전한 경우를 요구하지 않는 문제에 대해서 하나의 상한만 가진다. 이 상한 숫자는 매우 신기하다 :

이 숫자는 당연히 예상하기 힘들 정도로 크다.n=2라고 하더라도 일반 컴퓨터가 정확하게 계산하기 힘든 숫자이다. 그러나 어떤 모양인지와 상관없이 이 문제의 상한이 있다는 것을 알려준다. 이 사실은 한계를 극복할 수 있는 중요한 사실이다. 어쩌면 이후에 어떤 사람이 더 작은 상한 혹은 더 큰 하한을 발견할지 모른다. 현재로서는 상한과 그것의 하한의 차이가 너무 많이 난다는 사실만 알 뿐이다.

우주는 어떤 수로 표현할 수 있을까?



신비로운 0.577 - 오일러 마스케로니 상수

수학에서 유명한 상수는 무엇일까? 자연상수(e), 파이 말고 번뜩 떠오르는 것이 있을까? e나 파이만큼 유명하지는 않지만 흥미로운 수, 오일러 마스케로니 상수에 대해서 알아보려고 한다. 신비롭기까지 한 이 수에 대해 언급하기에 앞서 응용문제를 먼저 다루어보자.

[문제] 한 마리 개미가 있다. 고무 고리 위의 어느 지점에 머물고 있는데, 고무 고리의 초기 둘레는 1m이다. 개미가 1초에 1cm의 속도로 이동하기 시작하면 고무 고리는 1초 후에 1m씩 일정하게 둘레가 늘어난다. 다시 말하면 1초 후에 고무 고리의 둘레는 2m, 또 1초 후에는 3m로 변한다. [질문] 이 개미가 고무 고리를 한 바퀴 도는 것이 가능할까? (이 개미는 처음 위치로 돌아올 수 있을까?)

어떻게 생각하는가? 과연 완전히 한 바퀴를 도는 것이 가능할까? 정답은 가능하다. 만약 믿지 못하겠다면 다음의 계산을 보자. 처음 1초에는 고무 고리 둘레는 1m이고 개미는 1cm 이동한다. 그러면 개미는 총 둘레의 1/100을 이동한 셈이다. 2초가 되면 고무 고리 둘레는 2m이고 개미는 1cm 이동한다. 고리가 일정하게 늘어나는 이유로 개미는 총 둘레의 1/200을 이동하게 된다. 그러면 3초일 때는 총 둘레의 1/300을 이동한다. 이런 식으로 유추하면, n초 후, 개미의 총 이동거리는 (수학식: pc파일참고) 이다. n의 값을 계속 증가시킬 때, 위 수열의 합은 얼마가 될까? 수열에서, 분모의 공통인수 1/100로 묶어내면 (수학식: pc파일참고) 임을 알 수 있다. 이때 괄호 안의 급수는 자연수의 역수 합으로 수학에서 ‘조화급수’라고 부른다.

항의 수가 충분히 많을 때, 조화급수가 발산한다는 결론을 알고 있는 이도 있을 것이다. 하지만 이 급수의 ??개항의 합은 임의의 큰 값으로 개미이동문제에서 괄호 안의 조화급수 값이 100이 되면 개미는 고무 고리를 완전히 한 바퀴 도는 것이 가능하고 원래 지점으로 돌아올 수 있다. 이 문제의 결론을 처음 접했을 때, 나는 놀랐다. 이것은 직관과 맞지 않기 때문이다. 문제는 매번 고무 고리가 늘어날 때마다 개미가 이동한 거리도 늘어나야 한다. 전체적으로는 이동거리가 점점 증가하고 있지만 실제로는 굉장히 느리게 갈 뿐이다. 만약 ‘모든 자연수의 역수 합이 발산한다’에 의심이 든다면 다음과 같은 증명과정을 한번 감상하길 바란다.

(수학식: pc파일참고) 이 증명은 ‘비교판정법’이라고 불리는 방법을 이용했다. 조화급수의 항을 더 작은 어떤 항으로 바꾸어서 다른 수열을 만들고 그 결과들의 급수를 확인하면 여전히 발산한다. 이것은 조화급수가 발산한다는 것을 확실히 보여준다. 설령, 좀 더 줄여도 여전히 발산한다. 그러면 조화급수의 n항 합은 도대체 얼마인지 궁금할 것이다. 빨리 계산할 수는 없을까? 답은 조화급수의 n항 합은 대략 lnn (n:자연수)이다. 미적분을 공부한 독자라면 lnn의 도함수가 1/n이기 때문에 이해할 수 있을 것이다.

조화급수의 합은 함수 y=1/x이 곡선과 x축 사이(x=1부터 x=n까지)의 면적과 같다. 이 면적은 lnn-ln1=1nn이다. 이로써 개미가 고무 고리를 완전히 한 바퀴 도는 데 필요한 시간은 조화급수의 부분합이 100보다 크게 될 때이므로 ‘lnn≥100,n≥e100’ 따라서 약 e100초로 대략 1036년이 걸린다. 이 시간은 우주상에 존재하는 시간(일반적으로 우주역사는 1011에 해당하는 수량이다)을 훨씬 초과한다. 그래서 개미가 한 바퀴 도는 것이 불가능하다는 당신의 직관은 충분히 이해가 된다. 인류가 이해하기 힘든 정도로 많은 시간이 걸리기 때문이다.

조화급수의 전반부 n개 항의 합이 lnn에 가까워진다면 결국 lnn과 같아질 수 있을까? 아니면 ‘임의의 작은’과 ‘충분히 큰’ 이 두 개의 표현을 빌려, n이 충분히 클 때, 조화급수의 전반부 n개항의 합과 lnn 사이의 차이는 임의의 작은 값일까? 정답은 ‘아니다’. 그러나 그 값들 사이는 유한의 차잇값이 존재하는데, 이 차잇값이 바로 본 절의 주제인 ‘오일러 마스케로니 상수’이다. 만약 이 차잇값을 이미 아는 상수, 예로 e나 파이를 써서 표현했다면 그렇게 신비스럽진 않았을 것이다. 하지만 이 수는 확실히 독립적인 새로운 수이다. 게다가 정의도 이렇게 간단하다. 만약 그래프에서 설명한다면 그것은 y=1/x 곡선과 자연수 ‘히스토그램’으로 둘러싸인 부분의 넓이와 같다. 이것은 일찍이 오일러가 발견한 것으로 그는 소숫점 아래 16자리까지 개선했다. 1790년에 이탈리아의 마스케로니가 소수점 아래 32자리까지 계산했으나, 아쉽게도 이후에 세 자릿값이 잘못 계산된 것이 확인되었다. ‘오일러 마스케로니 상수’는 이렇게 생겼다. ‘y=0.5772156649015328606065120900824024310421…’