수학자는 행운을 믿지 않는다

수학자는 행운을 믿지 않는다

애덤 쿠하르스키 지음

북라이프 / 2016년 11월 / 340쪽 / 17,500원





무지의 3단계_ 룰렛은 우연의 게임일까



룰렛의 무작위성

20세기 초에 수학과 관련된 거의 모든 영역이 앙리 푸엥카레가 주목한 덕분에 도움을 받을 수 있었다고 해도 과언이 아니다. 푸엥카레 이후 수학의 전 부분을 검토하고 그 과정에서 각 부문들에 걸쳐 있는 중요한 연결 고리를 그처럼 찾아낸 수학자는 아무도 없었다. 룰렛의 무작위성 역시 그가 관심을 보였던 수많은 영역 중 하나였다. 룰렛의 무작위성을 다루는 방법에는 두 가지가 있는데 그는 두 가지 모두에 관심이 있었다. 푸엥카레는 룰렛과 같은 사건의 결과가 무엇에서 비롯되는지 사람들이 잘 모르기 때문에 그 결과들이 무작위인 것처럼 보인다고 했다. 그러나 푸엥카레는 사람들이 무지한 수준에 따라 해결해야 할 문제들을 분류할 수 있다고 주장했다. 어떤 물체의 최초 상태, 즉 물체의 최초 위치나 속도 등과 그 물체가 따르는 물리적 원리를 정확하게 알고 있다면 풀어야 할 문제는 교과서에 나오는 물리학 문제와 같다. 푸엥카레는 이를 무지의 1단계라고 불렀다. 필요한 정보가 모두 있으니 간단한 계산만 몇 번 하면 된다는 것이다.

무지의 제2단계는 물리적 원리는 알고 있지만 물체의 최초 상태를 정확히 모르거나 정확하게 측정할 수 없는 경우이다. 이런 경우에는 측정치를 더 정확하게 하든지, 아주 가까운 미래에 그 물체에 벌어질 일을 예측하는 데에서 그치든지, 둘 중 하나를 택해야 한다. 마지막으로는 가장 범위가 넓은 무지의 3단계가 있다. 이는 물체의 최초 상태와 물리적 원리를 둘 다 모르는 경우다. 물리적 원리가 지나치게 복잡한 나머지 그 원리를 완전하게 이해할 수 없는 경우에도 무지의 제3단계에 빠졌다고 할 수 있다. 예를 들어 수영장에 페인트 한 통을 부어버렸다고 가정하자. 수영하는 사람들의 반응을 예측하기는 쉬울지도 모르겠지만 페인트 분자와 물 분자 하나하나의 반응을 예측하기란 훨씬 더 어려울 것이다.

또 하나의 접근방법을 사용할 수 있다. 분자 사이의 상호작용을 세세하게 분석하지 않아도 분자들끼리 생기는 결과를 이해해 보려고 할 수 있다. 모여 있는 입자들을 살펴보면 그것들이 함께 섞이면서 어느 정도의 시간이 지나면 결국 페인트가 수영장 전체에 고르게 퍼지는 장면을 볼 수 있을 것이다. 완전히 파악하기에는 너무나도 복잡한 그 원인에 대해 전혀 모를지라도 최종 결과만큼은 파악할 수 있다는 이야기다. 룰렛에 대해서도 똑같은 이야기를 할 수 있다. 룰렛 알의 궤적은 여러 가지 요인에 의해 결정되는데, 회전하는 룰렛 바퀴를 그냥 슬쩍 쳐다본다고 해서 그 요인들을 쉽게 다 알 수 있는 것은 아니다. 각각의 물 분자와 마찬가지로 룰렛 알의 궤적 이면에 있는 복잡한 원인들을 이해하지 못한다면 단 한 번의 회전결과조차도 예측이 불가능하다. 하지만 푸엥카레가 말했듯이 룰렛 알이 멈출 곳을 결정해 주는 원인을 반드시 알아야 할 필요는 없다. 대신 룰렛을 아주 여러 번 회전시켜 본 다음 결과가 어떤지를 확인해 보기만 해도 된다.

대부분의 룰렛 테이블은 눈금이 서른여덟 개가 있는 최초의 프랑스식 디자인을 계승해 왔다. 이 눈금들에는 1부터 36까지의 숫자에 검은색과 붉은색이 번갈아 칠해져 있고, 초록색이 칠해진 ‘0’과 ‘00’이 추가로 있다. ‘0’이 들어간 이 두 숫자로 인해 룰렛은 카지노 업체 측에 유리한 게임이 된다. 갬블러가 가장 좋아하는 숫자에 1달러를 연속으로 건다면 평균적으로 룰렛이 서른여덟 번 돌 때마다 한 번의 승리를 기대할 수 있으며, 이때 카지노 측으로부터 받는 액수는 36달러가 될 것이다. 따라서 룰렛이 서른여덟 번 도는 동안 참가자는 38달러를 걸겠지만 버는 돈은 평균 36달러에 불과하다. 이는 2달러의 손해, 또는 서른여덟 번의 회전에서 1회전당 5센트를 손해 본다는 뜻이다. 카지노 측이 유리하다는 생각은 룰렛에서 각각의 숫자가 나올 확률이 동일하다는 가정 때문이다. 하지만 다른 기계와 마찬가지로 룰렛 테이블 자체가 완전하지 못하거나 사용횟수가 늘어나면서 점차 마모될 수도 있다.

과학적 베팅 전략의 시작

성공한 룰렛 전략들에는 공통점이 있다. 룰렛 바퀴는 예측 불가능하다는 카지노 측의 믿음에 의존한다는 점이다. 룰렛 바퀴를 예측할 수 있으면 충분히 오랫동안 그 룰렛 테이블을 관찰해온 사람들은 바퀴의 편향성을 돈을 따는 데 이용할 수 있다. 룰렛 바퀴가 완벽해서 그로부터 나오는 숫자들의 분포가 균등할 때는 갬블러들이 룰렛 알의 궤적에 대한 정보를 넉넉하게 수집한다면 그 바퀴의 취약점을 공략할 수도 있다.

성공적인 룰렛 전략의 발전은 지난 100년 동안 확률과 관련된 과학이 얼마나 발달했는지를 반영해주고 있다. 룰렛에서 승리하려는 초기의 시도들은 푸엥카레가 말한 무지의 3단계에서 벗어나는 것과 관련이 있었다. 무지의 3단계에서는 물리적 과정에 대해 아무것도 알려져 있지 않다. 룰렛에 관한 연구작업은 데이터의 패턴을 찾고자 한 점에서 순수하게 통계적이었다. 룰렛에서 수익을 얻으려는 그 후의 시도들에서는 접근방법이 달라졌다. 이 전략들은 푸엥카레가 말한 무지의 제2단계를 극복하고 룰렛의 결과가 룰렛 바퀴와 룰렛 알의 초기 상태에 따라 크게 변하는 문제를 해결하고자 했다. 푸엥카레에게 룰렛은 간단한 물리적 과정을 통해 무작위와 비슷해 보이는 상황을 깊이 있게 설명할 수 있다는 그의 생각을 보여 주는 하나의 수단이었다.

이러한 생각은 1970년대에 새로운 학문 분야로 등장한 카오스 이론의 핵심이 되었다. 이 시기에 룰렛은 늘 보이지 않게 뒤에 숨어 있었다. 이는 어떤 과정을 일반적인 패턴에서 무작위와 마찬가지인 패턴으로 바꿔 주는 ‘카오스적 전환’을 보여주는 초기 실제 사례들 중 하나였다. 카오스 이론과 룰렛에 대한 관심은 몇 년이 지나도 약해지지는 않은 것 같다. 카오스 이론과 룰렛은 여전히 대중의 상상력을 사로잡을 수 있다.

룰렛은 지적 능력의 시험대로서 매혹적인 존재일 수 있지만 돈벌이를 위한 수단으로는 가장 쉽지도 않고 가장 믿을 만하지도 않다. 제일 먼저 카지노 테이블의 제약이라는 문제가 있다. 판돈이 많이 걸린 테이블에서 게임을 하면 돈을 더 벌 수 있을지는 몰라도 카지노 보안요원들에게 철저한 추가 조사를 받게 될 것이다. 다음으로는 법적인 문제가 있다. 룰렛을 할 때 컴퓨터를 사용하는 일은 여러 나라에서 금지되어 있고, 그렇지 않다 하더라도 컴퓨터 사용자들에게 카지노는 당연히 호의적이지 않다. 이 때문에 수익을 올리기가 곤란해지는 것이다.



수학은 어디까지 예측할 수 있을까_ 과학기술이 가져온 베팅의 진화



베팅의 세계에 뛰어든 금융투자 회사

베팅은 다른 종류의 투자와는 어느 정도 거리가 있는 것처럼 느껴질 수 있지만 그것이 바로 베팅이 지닌 장점 중 하나이다. 2008년 금융 위기 당시 많은 자산의 가격이 하락했다. 투자자들은 그러한 충격으로부터 스스로 보호하고자 대체로 다양한 포트폴리오를 구성하려 한다. 예를 들어 광범위한 산업 분야에 걸쳐서 다양한 회사들의 주식을 보유할 수 있다. 하지만 시장이 어려움에 직면하게 되면 이러한 다양성만으로는 부족한 경우가 생긴다. 워릭 대학교에서 복잡계를 연구하는 토비아스 프레이스에 따르면 금융시장이 힘든 시기를 맞이하면 주식도 비슷한 방식으로 움직일 수 있다. 그와 동료들은 1939년과 2010년 사이에 다우존스산업평균지수에 나오는 주가를 분석해서, 시장이 힘든 상황에 처하게 되면 주가도 함께 하락한다는 사실을 알아냈다. 이 문제는 주식에만 국한되지 않는다. 2008년 금융위기로 이어지는 과정에서는 점점 더 많은 투자자들이 부채담보부 채권을 거래하기 시작했다. 이 금융 상품으로 주택저당과 같은 미지급 대출이 모여들었고, 투자자들은 대출기관의 위험을 어느 정도 떠맡아 돈을 벌 수 있었다. 한 사람이 채무를 이행하지 못하게 될 가능성은 높을 수도 있지만 투자자들은 모든 사람들이 동시에 체납할 가능성은 지극히 낮다고 추측했다. 그러나 불행하게도 이런 추측은 틀린 것으로 판명됐다. 금융 위기 동안 집 한 채의 가치가 하락하자 다른 집들도 그 뒤를 따랐다.

스포츠 베팅을 옹호하는 사람들은 베팅은 일반적으로 금융계에 의해 영향을 받지 않는다고 지적한다. 스포츠 베팅을 위주로 하는 헤지펀드는 다양성을 제공해 주기 때문에 매력적인 투자가 된다. 브렌던 푸츠가 2010년에 스포츠를 중심으로 하는 헤지펀드회사를 차리게 된 것도 바로 이런 생각 때문이었다. 호주 멜버른에 위치한 프리옴하 캐피털은 일반 투자자들이 전통적으로 비공개적인 스포츠 예측 세계에 접근할 수 있게 하는 것을 목표로 삼았다. 좋은 예측 기법을 만들기 위해서는 전문성이 더 많이 필요할 수 있으므로 프리옴하는 로열 멜버른 공과대학의 학자들과 협력하기로 했다. 프리옴하는 특정한 종목에 대한 예측 모델을 만들고 각 결과가 나타날 가능성을 예측하기 위해 모의실험을 한 다음에 예측 수치를 베트페어와 같은 베팅 거래소에 게시된 현재 배당률과 비교한다. 투자자들이 경기가 시작되기 전에 돈을 걸어야 하는 제한이 없다는 점이 가장 큰 장점이다. 이는 장점인데, 경기가 시작될 때까지의 과정에서 배당률은 일반적으로 공정한 수치로 안정되게 된다는 사실을 푸츠가 발견했기 때문이다. 푸츠는 이렇게 말했다. “경기 시작이 시작되고 나면 그다음부터는 저희에게 엄청난 기회가 있어요.”

프리옴하의 현재 계획은 2,000만 달러(230억 원)에 달하는 투자자들의 자금을 관리하는 일이다. 1억 달러(1,150억 원)와 같이 아주 큰 금액을 투자할 경우 그럴듯한 수입을 벌어들이기는 힘들 것이라고 푸츠는 말했다. 1년에 5퍼센트의 수익률을 달성할 정도의 기회는 충분히 찾을 수 있겠지만 헤지 펀드 운용사로서 투자자들을 위해 두 자릿수 수익률을 올리려 할 것이고, 자금의 규모를 제한한다면 이 정도의 수익률을 달성할 가능성은 더 높아진다. 프리옴하의 투자 자금이 아직 제한선에 도달하지는 않았지만 점차 규모가 커짐에 따라 푸츠는 그 전략에 투자하는 사람들이 바뀌고 있다는 점에 주목하고 있다. 푸츠는 말했다. “전에는 투자자 인적사항을 보면 스포츠를 좋아하면서 베팅도 좋아하는 사람들이 많았는데 이제는 연금이나 그 외에 투자 자금이 있는 사람들로 바뀌고 있어요.”

주식 투자는 베팅과 자주 비교되어 왔는데, 특히 주식을 단기간만 보유하고 있는 경우가 그러하다. 투자자들 중에 갬블링을 성공 가능성이 높은 선택으로 여기는 이들이 늘어나고 있다는 점은 아이러니라 할 만하다. 프리옴하와 같은 업체의 야심 찬 계획은 베팅 시장의 규모 때문에 현재는 제약을 받고 있지만 미국에서 스포츠 베팅이 확대되기만 한다면 상황은 아주 달라질 수 있다. “미국 시장이 열린다면 전체적인 상황이 완전히 바뀌게 됩니다.”라고 푸츠는 말했다.



로봇의 등장_ 금융시장에 돈을 걸다



금융시장을 휘젓는 자동 프로그램

1981년에 UCLA에서 박사학위를 취득한 도인 파머는 뉴멕시코 주에 있는 산타페 연구소에서 일했다. 예측과 관련된 파머의 연구 작업은 룰렛 알의 경로에서 끝나지 않았다. 그곳에 있는 동안 파머는 금융에 관심을 갖게 되었다. 룰렛 회전을 예측하던 그는 몇 년 지나지 않아 주식 시장의 동향을 예상하는 사람이 되었다. 1991년에 그는 노먼 패커드와 함께 헤지펀드를 설립했다. 회사 이름은 프리딕션 컴퍼니였고 두 사람은 카오스 이론에서 비롯된 개념을 금융 분야에 적용하려는 계획을 세웠다. 물리학과 금융을 혼합하는 일은 엄청나게 성공적인 것으로 입증되었고, 파머는 8년 동안 그곳에서 일하다 학교로 돌아가기로 했다.

파머는 현재 옥스퍼드 대학교의 교수로, 복잡계를 경제학에 도입했을 때의 효과를 연구하고 있다. 금융계에서는 이미 수학을 기반으로 하는 생각이 넘쳐나지만 파머는 그것이 일반적으로 특정한 거래를 대상으로 하고 있다는 점을 지적했다. 사람들은 금융 상품의 가격을 결정하기 위해서, 또는 특정한 거래와 관련된 위험을 추정하기 위해서 수학을 이용한다. 하지만 이러한 상호작용이 어떻게 함께 잘 어울릴 수 있을까? 자동 프로그램이 사람들의 판단에 영향을 미친다면 경제 전체에는 어떤 영향을 미칠 수 있을까? 그리고 상황이 잘 안 풀리게 되었을 때에는 무슨 일이 일어날 수 있을까?

심각한 시장 장애를 거슬러 올라가다 보면 대체로 한 가지 주요한 원인이 되는 사건이 있다. 온라인 뉴스를 샅샅이 뒤지면서 경쟁회사보다 앞서서 정보를 이용하려 하는 자동 프로그램들은 이 내용을 인식하고 나서 거래를 하기 시작할 가능성이 높다. 금융 뉴스가 만들어지는 과정에서 이제는 사람이 하는 역할이 더 많이 줄어들었다는 의미이다. 언론사 사무실에서는 알고리즘이 보고서들을 글로 변환하고, 거래소에서는 알고리즘의 동료 로봇들이 이 글에 나오는 내용을 활용해서 거래를 판단한다.

자동 프로그램은 종종 복잡하고 알 수 없는 존재로 여겨진다. 거래 알고리즘에 대해 (또는 어떤 알고리즘인지와 상관없이 그에 대해) 글을 쓰는 기자들은 ‘복잡한’이라는 단어를 선호하는 것 같다. 하지만 빈도수가 높은 거래에서는 그와 완전히 반대가 된다. 뭔가를 빨리 하고 싶으면 상황을 단순하게 할 필요가 있다. 금융 상품을 거래할 때에는 많은 지시사항을 처리해야 할수록 시간이 오래 걸린다. 제작자들은 미묘한 뉘앙스로 자동 프로그램을 답답하게 하기보다는 컴퓨터 코드 몇 줄로 전략을 압축한다. 도인 파머는 이것이 이성이나 합리성이 들어설 여지를 거의 남겨놓지 않는다고 경고한다. 파머는 이렇게 말했다. “어떤 사람들이 할 수 있는 일을 코드 열 줄로 압축해 버리면 그 사람은 합리적이지 않죠. 곤충 수준의 지능에도 미치지 못한다고 하겠습니다.”

거래업자들이 트위터 글이든 대규모 판매 주문이든 큰 사건에 대응하면 시장 활동을 감시하는 고속 알고리즘들은 그것에 강하게 주목하게 된다. 다른 사람들이 주식을 판매하면 고속 알고리즘도 따라 한다. 주가가 급락할 때 프로그램들끼리 서로 따라 해서 가격을 더욱 내려가게 한다. 시장은 극도로 빠르게 진행되는 미인 대회로 바뀌는데, 뽑힐 가능성이 낮은 참가자를 고르려는 사람은 아무도 없는 상황이다. 따지고 보면 알고리즘이 눈으로 볼 수 있는 속도보다도 빠르게 돌아갈 때는 누가 먼저 움직일지를 알아내기가 힘들다. 파머는 다음과 같이 말했다. “생각할 시간이 거의 없죠. 그러다 보니 과잉반응과 한쪽으로 몰려가는 현상이 일어날 위험이 커지게 되죠.”

몇몇 거래업자들은 소규모 폭락 사태가 자주 일어난다고 이야기한다. 이러한 사건들은 주요 뉴스에 오를 정도로 심각하지는 않지만 여전히 발생하고 있어서 주식시장을 유심히 관찰하는 사람이라면 누구나 발견할 수 있다. 1초도 채 안 되는 시간에 주가가 하락하거나 거래량이 갑작스레 100배나 증가할 수도 있다. 실제 이러한 일이 매일 몇 번씩 벌어질 수도 있다. 마이애미 대학교의 학자들이 2006년부터 2011년까지의 주식시장 데이터를 살펴보니 1초도 지나지 않아 주가가 급락하거나 급등했다가 다시 회복되는 ‘초고속 극한 사례’ 수천 건이 발견되었다. 이 연구를 이끌었던 닐 존슨에 따르면 이러한 사건들은 기존의 금융 이론에서 다뤄지는 상황들과는 그 차이가 굉장히 크다. 존슨은 이렇게 말했다. “인간은 실시간으로 개입하지 못합니다. 그래서 인간 대신 로봇으로 구성된 초고속 환경이 등장해서 상황을 통제하게 되죠.”

금융과 갬블링의 경계

최근 몇 년간 금융시장과 베팅 거래소에서 돈을 쓸어가는 알고리즘 수가 크게 증가하는 모양새다. 이는 확률론과 차익거래 등의 아이디어를 오랫동안 공유해 온 두 업계를 연결해주는 가장 최근의 현상이다. 오늘날 금융과 갬블링의 경계는 그 어느 때보다도 흐릿해지고 있다. 베팅 웹사이트들 중에는 이제 금융시장에 돈을 거는 것을 허용하는 곳도 있다. 다른 종류의 온라인 베팅과 마찬가지로 이러한 거래도 베팅에 포함되어 유럽의 여러 국가에서 세금을 면제 받는다(고객들만큼은 그렇다는 이야기다. 베팅업체들은 여전히 세금을 부담해야 한다). 가장 인기 있는 금융 베팅의 형태 중 하나는 스프레드 베팅이다. 2013년 영국에서 10만 명 정도가 이러한 방식으로 돈을 벌었다.