카오스
제임스 글리크 지음 | 누림
나비효과
에드워드 로렌츠는 날씨를 연구하기 좋아했다. 기상학자라고 해서 반드시 날씨 연구를 좋아해야 한다는 법은 결코 없다. 그러나 로렌츠는 기상이 변화무쌍한 것을 즐겼다. 그는 회오리바람이나 열대성 저기압과 같이 대기에서 발생하는 운동형태가 언제나 수학적 법칙을 따르면서도 결코 똑같이 반복되지 않는 것에 대해 큰 흥미를 느꼈다. 그는 컴퓨터라는 소우주의 신이었으며, 원하는 대로 자유롭게 자연의 법칙들을 선택했다. 그는 원시적인 컴퓨터로 기상 현상을 골격만 남을 때까지 단순화시켰다. 그러나 한 줄 한 줄 인쇄되어 나오는 바람과 기온은 상당히 현실적인 것처럼 보였다. 그것은 로렌츠가 날씨에 대해 품고 있던 직관과 일치했다. 그는 날씨가 반복되리라고, 즉 기압의 상승과 하강, 기단의 북쪽 또는 남쪽으로의 이동이 반복되어 시간이 갈수록 익숙한 형태를 나타낼 것이라고 생각했다. 한 줄이 높은 숫자에서 낮은 숫자로 아무런 튀어 오름 없이 인쇄되었을 때 다음 줄에는 두 번의 튀어 오름이 생긴다는 것을 발견하고 그는, "이것은 예보가들이 이용할 수 있는 일종의 법칙이다"라고 말했다. 그러나 아주 정확하게 반복되지는 않았다. 일정한 형태를 이루고 있기는 하되 교란이 있었다. 인지할 수 있는 주기가 반복되면서도 결코 똑같은 형태가 나타나지는 않는 파동성의 규칙성, 즉 질서 속의 무질서였다.
그러한 과정을 반복하던 1961년 어느 겨울날, 로렌츠는 하나의 결과를 더 면밀하게 검토하기 위해 지름길을 택했다. 전체를 처음부터 다시 계산하지 않고 중간부터 시작했다. 초기조건을 부여하기 위해 이전의 인쇄출력을 보고 그대로 타이핑했다. 이 새로운 계산은 이전의 결과와 일치해야 할 것이다. 로렌츠는 숫자들을 컴퓨터에 그대로 타이핑했고, 프로그램이 바뀌지도 않았다. 그러나 그는 새로운 출력 결과를 검토하던 중에 새로 계산된 기후가 매우 빠르게 이전의 계산 결과와 어긋나고 있다는 것을 발견했다. 그는 처음에 거의 같았던 기후가 어떻게 서로 달라지는가를 검토하기로 마음먹었다. 한 인쇄출력에 그려진 파동선을 투명지에 복사하여 다른 인쇄출력 위에 겹쳐 놓고서 서로 달라지는 양상을 살펴보았다. 처음 두 개의 언덕 모양은 잘 일치했다. 다음 언덕 모양은 한쪽 선이 미세하게 뒤로 처지기 시작했다. 그 다음 언덕 모양에 이를 때에는 두 선은 분명히 위상이 달라졌다. 세 번째 혹은 네 번째 언덕 모양에서는 유사한 형태가 완전히 사라졌다.
문제는 그가 타이핑한 숫자들에 있었다. 컴퓨터의 기억장치에는 소수점 이하 6자리, 즉 .506127까지 기억되어 있었다. 그러나 인쇄출력할 때는 분량을 줄이기 위해 3자리, 즉 .506만 나타나게 했다. 1000분의 1정도의 차이는 의미가 없다고 생각하고 반올림한 3자리 숫자를 입력했던 것이다. 이를 통해 로렌츠의 특정한 방정식 계에서는 작은 오차가 대단한 변화를 초래한다는 것이 입증됐다. 그날 로렌츠의 사고방식의 근간이 흔들렸다. 비록 그의 방정식이 지구의 기후를 전반적으로 서투르게 반영한 것이긴 하지만, 그는 방정식 안에 실제 대기운동의 중요한 요소들이 포함되어 있다고 믿고 있었다. 바로 그날, 그는 장기 기상예측이 불가능하다고 단정했다. 그는 "나는 비주기적인 형태를 보이는 어떤 물리계도 예측할 수 없다는 것을 깨달았다"라고 말했다.
로렌츠의 경우 뿐만 아니라 세계 최고 수준의 기상 예보도 2, 3일 뒤의 것은 불확실했고 6, 7일 뒤의 것은 무용지물이었다. '초기조건에의 민감한 의존성'이라는 전문용어로 불리우게 된 나비효과가 그 이유였다. 국지적인 기상에 대한 세계 기상을 예측하는 사람에게 국지적이라는 것은 폭풍우일 수도 있고 심한 눈보라일 수도 있다 어떠한 예측도 시간이 흐름에 따라 정확도가 급격히 떨어진다. 오차와 불확실성은 일련의 격동현상을 통해 증폭되어 회오리바람이나 스콜을 위성만이 포착할 수 있는 대륙만 한 크기의 와류로 발달시킬 수도 있다.
[그림1] 로렌츠 어트랙터
로렌츠의 이와 같은 발견은 우연한 일이었는데, 그 후 그는 일정한 상태를 이루지 못하는 것 즉 거의 비슷하게 반복되기는 하지만 결코 똑같이 반복되지는 않는 계들에 대한 수학적 해석에 점점 더 관심을 기울였다. 결국 그는 단지 세 개의 변수를 가지는 세 개의 방정식으로 이 계를 완전히 표현했다. 그것들은 비선형적이며 따라서 정확하게 비례하지 않는 관계이다. 로렌츠는 세 변수를 각각 하나의 좌표축으로 한 3차원 공간에 계산결과를 표시했다. 로렌츠의 계는 극도로 복잡한 모양으로 나타났다. 점들은 어떤 한계 내에 머물렀으며, 종이 바깥으로 나가거나 같은 모양을 반복해서 그리지 않았다. 그 모습은 이상하고 특이했으며 3차원 공간좌표에서 이중나선구조를 이루었는데, 마치 두 날개를 펼친 나비와 같았다. 순수한 무질서를 나타내는 이 신비한 이중나선은 뒤에 '로렌츠 어트랙터(Lorenz attractor)'로 불리게 되었다.
주석: 로렌츠는 dx/dt = a(y - x), dy/dt = bx - y - xz, dz/dt = xy - cz 의 세 가지 미분방정식으로 기상 현상을 모델화하였다. 여기에서 x, y, z는 시간 t의 함수이며 a = 10, b = 28, c = 8/3이며, 이 방정식을 수칙적으로 풀어 보면 초기 값에 관계없이 해는 두 개의 맴돌이로 이루어지는 영역(strange attractor)에 잡히는 것을 알 수 있다. 초기조건이 조금만 차이나도 지수 함수적으로 확대되고 어느 만큼 정확히 초기조건을 정해도 시간이 되면 x, y, z의 위치는 전혀 예측 불가능하게 되는데, 이것이 일기 예보가 맞지 않는 이유이다.
생명체의 번성과 감소
카오스(Chaos)라는 이름을 붙인 요크는 겨우 22세 때, 메릴랜드대학의 여러 학과가 제휴한 물리과학기술연구소(IPST)에 참여했고, 후에 그 연구소의 소장이 되었다. 그 연구소의 한 유체역학자가 1972년에 로렌츠의 1963년도 논문 「결정론적인 비주기성 흐름」을 우연히 접하게 되었고, 그 논문의 복사본 한 부를 요크에게 주었다. 로렌츠의 논문은 요크가 여태껏 그것이 무엇인지도 모르면서 찾아왔던 하나의 요술작품이었다. 요크는 기상학 학술지에 묻혀 있던 로렌츠의 논문을 보자마자 그것이야말로 물리학자들이 이해해야 할 것임을 간파했다. 그는 다시 돌려받을 수 있도록 로렌츠 논문의 복사본에 자신의 주소를 붙여서 스메일에게 보냈다. 스메일은 자신이 한때 수학적으로 불가능하다고 여겼던 카오스를 이 기상학자가 10년 전에 발견했다는 사실을 알고 크게 놀랐다. 스메일은 로렌츠의 논문을 여러 부 복사했다. 그래서 요크가 로렌츠를 발견했다는 신화가 생겨났다. 버클리에서 눈에 띄는 복사본에는 모두 요크의 주소가 찍혀 있었던 것이다. 요크는 무질서를 제어하려면 무질서가 무엇인지 알아야만 한다는 교훈을 얻은 뒤, 가장 널리 배포되는 수학학술지인 《미국 수학 월간》지에 '주기 3은 카오스를 내포한다(Period Three Implies Chaos)'라는 불가사의하고도 얄궂은 제목의 논문을 기고했다. 이리하여 마침내 결정론적인 무질서를 다루는, 확산일로에 있는 분야 전체를 대표하는 말, 카오스가 탄생하게 되었다. 그는 또한 그의 친구이며 생물학자인 로버트 메이와도 의견을 나누었다.
생물학자였던 메이는 단일 개체군이 시간의 경과에 따라 어떤 형태를 보이는가 하는 문제를 연구하고 있었다. 그는 시간의 흐름에 따른 개체수를 추정하는 논리 차이방정식 xnext=rx(1-x){{ 현재의 개체수(x)를 기준으로 하여 미래의 개체수(xnext)를 구하는 선형방정식. r은 매개변수로 높게 혹은 낮게 정할 수 있는 번식률을 의미한다. 이를 이용하여 시작하는 값과 번식률을 임의로 선택하여 다음해의 개체수를 알아낼 수 있다.
매개변수 값이 약간 상승하면 최종 개체수도 역시 약간 상승하게 되고, 그래프에서는 곡선이 좌측에서 우측으로 이동함에 따라 약간 상승하는 것으로 표시된다. 그렇지만 매개변수가 3을 지나면, 갑자기 그 그래프의 선은 두 개로 나누어진다. 개체수는 하나의 값으로 나타나지 않고 2년 주기로 두 값 사이를 진동한다. 낮은 개체수에서 출발하여, 그 수가 상승하다가 진동하기 시작하고 결국에는 일정한 두 값 사이를 왔다 갔다 한다. 매개변수를 약간 더 올리면 진동은 다시 분열되고, 4개의 각각 다른 값으로 귀착되는 일련의 숫자들을 만들어내 4년 주기로 반복된다. 이제 개체수는 규칙적으로 4년 주기로 오르내리게 된다. 매개변수가 더욱 커지면, 주기를 이루는 점들의 수는 계속해서 두 배가 된다. 그러한 복잡한 형태에도 불구하고 그렇게 기가 막히게 규칙적인 점은 깜짝 놀랄 만한 것이었다. 메이는 이것을 '수학의 풀밭에 있는 뱀'이란 말로 표현했다. 두 배가 되는 자체가 바이퍼케이션이고, 각 바이퍼케이션은 반복되는 패턴이 한 단계 더 나뉘는 것을 의미한다. 안정되어 있던 개체수가 2년 주기로 진동하게 된다. 2년 주기로 진동하던 개체수는 이제 세 번째와 네 번째 해에도 변화하여 주기 4로 바뀐다.
[그림2] 주기배가와 카오스(period-doublings and chaos)
이러한 바이퍼케이션은 더욱 빨리 온다. 4, 8, 16, 32… 그리고는 갑자기 주기성이 사라진다. 어떤 지점, 즉 집적된 값을 넘어서면 주기성은 카오스 상태, 즉 결코 안정되지 않는 연속적인 변화의 상태로 전환된다. 따라서 그래프의 모든 부분이 완전히 까맣게 된다. 이런 가장 간단한 비선형 방정식에 의해 제어되는 개체수를 지켜보면, 그것은 마치 우연한 환경적 요인에 좌우되는 것처럼, 해마다의 변화가 완전히 불규칙적이라고 생각하게 될 것이다. 하지만 이러한 복잡함 속에서 갑자기 안정된 주기가 되돌아온다. 매개변수가 증가함에 따라 계의 비선형성이 점점 더 격렬해질 때조차도, 일정한 주기를 갖는 창(window)이 갑자기 나타난다. 개체수 변동의 유형은 3년 혹은 7년의 주기로 되풀이된다. 그리고 나서 주기배가 바이퍼케이션(period-doubling bifurcation)이 아주 빠른 속도로 시작되어, 3, 6, 12… 혹은 7, 14, 28…의 주기를 빠르게 지나고 결국 다시 새로운 카오스 상태로 된다.
자연의 기하학
불연속성, 소음의 동시다발, 칸토어의 먼지, 이와 같은 현상들은 지난 2000년 동안 기하학에서 아무런 위치도 차지하지 못했다. 고전 기하학에서 다루는 형태는 선분, 평면, 원, 구, 삼각형 그리고 원추 등이다. 그것들은 실재를 강하게 추상화한 것으로서, 플라톤적인 조화의 철학에 강한 영감을 주었다. 유클리드는 그 도형들을 이용해서 2000년 간 지속되어 온, 그리고 대부분의 사람들이 여전히 배우고 있는 기하학을 만들었다. 이러한 상황에서 IBM사의 순수 연구부서에 일하고 있던 만델브로트는 유클리드 기하학 세계 이외의 기묘한 형상들이 나름의 의미를 지닌다고 주장하였다. 즉, 울퉁불퉁함과 뒤엉킴은 유클리드 기하학의 고전적인 형태를 뒤트는 결점으로 치부해 버릴 성질의 것이 아니라 종종 사물의 본질에 이르는 열쇠가 된다는 것이다. 그는 길이, 깊이, 두께 등을 측정하는 유클리드식 측정 방법으로는 불규칙한 형상의 본질(예를 들어 영국 해안선의 길이)을 나타낼 수 없기 때문에 다른 생각, 즉 차원(dimension)이라는 개념으로 관심을 돌렸다.
유클리드 기하학에서 공간은 3차원이고, 평면은 2차원, 선은 1차원, 그리고 점은 0차원이다. 그렇다면 꼬인 실뭉치는 몇 차원인가? 만델브로트는 그것이 사람의 관점에 따라 다르다고 대답했다. 먼 거리에서 보면 실뭉치는 0차원인 점에 불과하다. 가까이서 보면, 실뭉치는 구를 채우고 있는 3차원으로 보인다. 더 가까이에서 보면 꼬인 실이 보이는데, 1차원이 분명히 3차원 공간 속에 뒤엉켜 있긴 하지만, 1차원 물체가 된다. 그래서 만델브로트는 0, 1, 2, 3…이라는 차원을 넘어서서 있을 수 없을 것같이 보이는 소수(小數) 차원까지 생각했다. 소수 차원은, 달리는 명확히 정의할 수 없는 성질, 즉 어떤 물체의 거칠거칠한 정도, 혹은 부서진 정도, 혹은 불규칙한 정도를 측정하는 방법이 된다. 만델브로트는 어떤 모양을 구성하는 기법이 주어질 경우 또는 어떤 자료가 주어질 경우에 실물체의 소수 차원을 계산하는 방법을 자세히 기술했다. 그리고 자신의 기하학을 통해 지금까지 연구해 온 자연계의 불규칙한 형태에 대해 다음과 같은 주장을 했다. 즉 불규칙성의 정도는 축척에 관계없이 일정하다는 것이다. 그는 자신이 생각한 형상, 차원 및 기하학에 이름을 붙여야겠다고 마음먹었다. 그는 때마침 학교에서 돌아와 있던 아들의 라틴어 사전을 뒤적거리다가 '부서진다'라는 뜻의 동사 'frangere'에서 파생한 형용사 'fraction'의 어감이 적절한 것으로 생각되었다. 만델브로트는 영어이자 불어이며, 명사이자 형용사인 단어 'fractal'을 만들어냈다.
[그림 3] 코흐 곡선(Koch curve)
프랙탈 구조의 대표적인 예인 코흐 곡선은 길이가
1인 삼각형으로부터 시작한다. 각 변의 중앙에 한
변의 길이가 1/3인 새 삼각형을 붙인다. 변의 길이
의 합은 3 4/3 4/3…으로 되어 무한대가 된다. 그
러나 면적은 원래 삼각형의 외접원의 면적보다 작
다. 따라서 무한히 긴 선이 유한한 면적을 둘러싸
게 된다.
프랙탈{{ 프랙탈이란 작은 구조가 전체 구조와 비슷한 형태로 끝없이 되풀이되는 구조를 말한다. 즉, 프랙탈은 부분과 전체가 똑같은 모양을 하고 있다는 "자기 유사성" 개념을 기하학적으로 푼 것으로, 프랙탈은 단순한 구조가 끊임없이 반복되면서 복잡하고 묘한 전체 구조를 만드는 것이다. 프랙탈은 '자기 유사성(Self-Similarity)'과 '순환성(Recursiveness)'라는 특징을 가지고 있다. 자연계의 리아스식 해안선, 동물혈관 분포형태, 나뭇가지 모양, 창문에 성에가 자라는 모습, 산맥의 모습도 다 프랙탈이며 우주의 모든 것이 결국은 프랙탈 구조로 되어 있다.
차원은 서로 접촉하고 있는 표면의 특성과 관련된 일련의 문제들에 직접 적용할 수 있다는 것이 밝혀졌다. 예를 들어 표면에 관한 프랙탈 기하학의 단순하지만 강력한 결론은, 접촉하고 있는 표면들이 완전하게 다 붙어 있지는 않다는 것이다. 여러 가지 크기의 혹들이 서로 붙는 것을 방해한다. 큰 압력을 받고 있는 암석조차도 아주 미세하게 보면, 유체가 흐르는 틈새가 있는 것이 분명하다. 이것이야말로 깨진 찻잔의 두 조각을 일견 잘 맞출 수 있을 것 같으면서도 다시 붙일 수 없는 이유이다. 미세하게 보면 불규칙한 혹들 때문에 서로 일치하지 않는 것이다. 또한 자연이고 안 한 프랙탈 구조는 일을 매우 효율적으로 한다. 그리하여 대부분의 세포조직에서 어떠한 세포도 혈관으로부터 셋 또는 네 세포 이상 떨어져 있지 않음에도 혈관과 피는 공간을 거의 차지하지 않는다. 그것은 다 합쳐 봐야 신체의 5퍼센트도 채 되지 않는다. 만델브로트는 이것을 베니스의 상인 증후군이라고 이름 붙였다. 즉 피를 흘리지 않고는 1파운드의 살을 떼어내기는커녕 1밀리그램의 살도 떼어낼 수 없다.
보편성
카오스 속의 질서. 이 말은 과학에서 상투적으로 쓰이고 있는 가장 오래된 문구였다. 파이겐바움이 스물아홉 살이었던 1974년에 로스앨라모스 국립연구소로 왔을 때, 그는 물리학자들이 카오스 속의 질서라고 하는 생각을 가지고 어떤 이론을 만들어내고자 한다면, 그 개념을 수치로 표시할 수 있는 실질적인 틀이 필요하다는 것을 알았다.
그는 질서와 무질서 사이의 경계영역에 관심을 집중하면서, 계산기를 가지고 해석 대수학과 수치탐구를 결합시키는 방법을 사용하여 2차 사상에 대한 이해를 종합하기 시작했다. 은유적으로 아니 오직 은유적으로 그는 이 영역이 어떤 유체 내에서의 부드러운 흐름과 난류 사이의 불가사의한 경계영역과