창조력 코드

창조력 코드

마커스 드 사토이 지음

북라이프 / 2020년 7월 / 464쪽 / 20,000원



기계가 정말 창조적일 수 있을까? : 러브레이스 테스트



에이다 바이런은 찰스 배비지가 만든 기계의 핸들을 돌리며 그 기계가 수치를 계산하고 제곱과 세제곱은 물론 제곱근까지 구하는 모습을 지켜보면서 넋을 잃었다. 몇 년 후 러브레이스 백작과 결혼해 에이다 러브레이스가 된 그녀는 배비지의 해석 기관 설계도를 연구하다 그 기계가 한낱 계산기의 범주를 넘어선다는 사실을 깨닫고, 그 기계의 잠재 가능성을 다음과 같이 기록으로 남겼다. “해석 기관은 ‘계산기’ 따위에 비할 바가 아니다. 그 기계는 독보적이며, 더 흥미로운 생각을 불러일으킨다.”

지금 에이다 러브레이스의 기록은 코드 작성의 최초 사례로 인정받는다. 그 생각의 씨앗은 앨런 튜링, 마빈 민스키, 도널드 미치 같은 개척자들의 업적에 힘입어 오늘날 세계를 휩쓰는 인공 지능 혁명으로 자라났다. 하지만 러브레이스는 기계가 많은 것을 성취할 수 있을지에 대해서는 조심스러웠다. 그녀는 궁극적으로 그 기계에 한계가 있다고, 즉 우리가 입력한 것 이상을 뽑아낼 수는 없다고 믿었다.

이 생각은 오랫동안 컴퓨터 공학의 만트라(mantra)이자, 우리가 직접 통제할 수 없는 무언가를 작동시키게 될 가능성에 대한 두려움을 막아 주는 보호막이었다. 사람들은 기계에 인공 지능을 부여하는 프로그램을 짜려면 우선 인간의 지능부터 이해해야 한다고 말해 왔다. 우리 머릿속에서 무슨 일이 벌어지는지는 여전히 수수께끼로 남아있지만, 지난 몇 년 동안 코드를 대하는 새로운 사고방식 또한 등장했다. 프로그래밍에 대한 하향식 접근에서 컴퓨터가 스스로 계획을 세우게 하려는 상향식 시도로 전환이 일어난 것이다. 알고 보니 지능을 해석하는 일부터 시작할 필요가 없었다. 이제 우리는 알고리즘이 스스로 디지털 세계를 돌아다니며 어린아이처럼 학습하게 할 수 있다. 하지만 기계가 결코 건드리지 못할 것이라 여겨지는 인간 활동 영역이 아직 하나 남아 있다. 그것은 바로 창조력이다.

우리에게는 상상하고 혁신하는 능력, 인간 존재의 의미를 높이고 넓히고 바꾸는 예술 작품을 창조하는 능력이 있다. 그런 작품들은 내가 ‘인간 코드’라고 부르는 것이 표면으로 드러난 결과다. 우리는 창조력이 인간다움에 의존하는 코드라고 믿는다. 모차르트의 진혼곡을 들으며 우리는 자신의 죽음에 대해 깊이 생각해 볼 수 있다.〈오셀로〉공연을 보면서 사랑과 질투라는 감정 세계를 탐색할 기회를 얻는다. 렘브란트가 그린 초상화는 모델의 외모보다 훨씬 많은 것을 담고 있다. 그러니 어떻게 기계가 모차르트, 셰익스피어, 렘브란트를 대신하거나 그들에게 필적할 수 있겠는가?

물론 인간의 창조력은 예술 이외의 영역에서도 발휘된다. 미슐랭 스타 셰프 헤스턴 블루먼솔의 분자 요리, 네덜란드 스트라이커 요한 크라위프의 축구 기교, 자하 하디드의 곡선미 있는 건축물, 에르뇌 루비크가 발명한 루빅스 큐브, 심지어 ‘마인크래프트’ 같은 게임을 만들려고 코드를 작성하는 일도 인간의 위대한 창조 행위로 보아야 한다. 의외로 창조력은 나의 수학 세계에서도 중요한 부분이다. 몇 시간씩 책상 앞에 앉아 방정식을 생각해 내고 증명을 적어 나가는 원동력은 새로운 무언가를 창조하는 일의 매력에서 나온다. 그런데 ‘창조력’이라는 이 가변적인 말의 진짜 의미는 무엇일까? 그 뜻을 정확히 밝히려 노력해 온 사람들은 보통 세 가지 생각을 중심으로 맴돈다. 창조력이란 새롭고, 놀라우며, 가치 있는 무언가를 내놓고자 하는 충동이라는 것이다. 사실 그저 새롭기만 한 무언가를 만드는 것은 쉬운 일이다. 나는 컴퓨터가 끊임없이 새로운 대칭적 대상에 대한 제안을 내놓게 할 수 있다. 하지만 만들어 내기 어려운 것은 바로 놀라움과 가치다.

이 책의 과제는 새로운 인공 지능을 극한까지 밀어붙여 그것이 우리 인간 코드의 경이로움과 맞먹거나 이를 뛰어넘을 수 있는지 알아보는 일이다. 창조 충동은 인간과 다른 동물을 구별 짓는 핵심 요소임에도 우리는 종종 그 충동을 억누르며 틀에 박힌 생활의 노예가 되는 오류를 범한다. 창조적으로 살기 위해서는 일상의 평탄한 길에서 벗어나게 할 충격이 필요하다. 바로 거기서 기계가 도움이 될지도 모른다. 어쩌면 기계가 우리에게 충격을 주고, 새로운 제안을 하고, 우리가 매일 똑같은 알고리즘을 되풀이하는 것을 막아 줄지도 모른다. 결국 기계가 우리 인간이 보다 덜 기계처럼 행동하도록 도와줄지도 모르는 것이다.

왜 수학자인 내가 당신을 이 여행에 초대하는지 물을 수 있겠다. 간단히 답하면 인공 지능, 기계 학습, 알고리즘과 코드는 본래 모든 수학과 관련이 있기 때문이다. 이 여행을 떠나려는 데는 또 다른, 좀 더 개인적인 이유도 있다. 나는 그야말로 실존적 위기를 겪고 있다. 인공 지능 분야의 새로운 개발품들이 쏟아져 나오다 보니, 나는 수십 년 후에도 수학자란 직업이 인간에게 남아있을지 궁금해졌다. 수학은 수와 논리를 다루는 분야다. 그런데 사실 이는 컴퓨터가 누구보다 잘하는 일 아닌가?

이 분야에서 한자리 차지하기 위해 문을 두드리고 있는 컴퓨터에 맞서 반론을 펴자면 수학은 수나 논리와 밀접히 연관되어 있지만, 한편으로는 매우 창조적인 분야로, 아름다움이나 미학과도 관련이 있다. 그래서 수학을 제대로 연구하려면 논리력과 이성뿐 아니라 직관력과 예술적 감수성도 꼭 필요하다. 에이다 러브레이스가 보여 주듯 수학자는 배비자의 성향뿐 아니라, 바이런의 성향도 어느 정도 필요하다.(러브레이스의 결혼 전 성에서 알 수 있듯 그녀는 시인 바이런의 딸이다.)

한편 러브레이스는 기계에 한계가 있다고 생각하긴 했지만, 기계를 숫자 외의 다른 영역에도 적용할 수 있다는 점 또한 다음과 같이 알아차렸다. ‘그 기계는 수 외의 것을 기반으로 작동할 수도 있을 것이다. (…) 가령 음들 간의 화성ㆍ작곡학적 기본 관계를 그런 식으로 표현하고 변환할 수 있다면 그 기계는 특정한 복잡성이나 규모를 갖춘 정교하고 과학적인 음악을 만들 수 있을 것이다.’ 그러나 러브레이스는 어떤 창조 행위든 기계가 아닌 코드 작성자의 책임이라고 믿었다. 그런데 그 책임을 코드가 좀 더 부담하게 할 수 있을까? 현세대 프로그래머들은 가능하다고 믿는다.

널리 알려져 있다시피 인공 지능의 여명기에 앨런 튜링은 컴퓨터의 지능을 평가하는 ‘튜링 테스트’를 제안했다. 나는 이제 ‘러브레이스 테스트’라는 새로운 테스트를 제안하고 싶다. 러브레이스 테스트를 통과하려면 알고리즘이 정말 창조적인 무언가를 만들어 내야 한다. 게다가 그 창조의 과정이 재현 가능해야 하고(하드웨어 오류로 우연히 생긴 결과가 아니어야 하고), 프로그래머는 알고리즘이 결과물을 어떻게 만들었는지 설명할 수 없어야 한다. 우리는 기계에서 새롭고 놀라우며 가치 있는 무언가를 내놓으라고 요구하고 있는 것이다. 기계가 정말 창조적이라고 인정받으려면 코드 작성자나 데이터 세트 구축자의 창조력이 표출된 것 이상의 결과물이 있어야 한다. 에이다 러브레이스는 이 문제를 아무도 해결하지 못할 것이라고 믿었다. 그녀의 생각이 과연 옳은지 이제부터 살펴보자.

창조력 창조하기

나는 왕립 학회의 위원회에서 기계 학습이 향후 몇 십 년간 사회에 미칠 영향을 가늠하던 중에 인지 과학자 마거릿 보든의 이론을 처음 접했는데, 창조력에 대한 그녀의 생각은 기계의 창조력을 탐구하거나 평가하기에 가장 적절해 보였다. 보든은 수십 년간 철학, 심리학, 의학, 인공 지능, 인지 과학 등의 여러 분야를 융합한 독창적 사상가다. 이제 80대로 백발을 흩날리지만 여전히 명민하며 ‘깡통’(보든이 컴퓨터를 가리킬 때 즐겨 쓰는 별칭)의 잠재 가능성을 탐색하는 일에 푹 빠져 있다. 탐색 과정에서 보든은 인간의 창조력을 다음과 같이 세 종류로 구분했다.

첫째, ‘탐구적’ 창조력이다. 이는 이미 존재하는 어떤 영역의 가장자리를 탐구하며 기존 규칙에 따르되 실현 가능한 일의 범위를 확장하는 능력이다. 수학에서는 이런 종류의 창조력을 십분 활용하는데, 유한단순군(finite simple group)의 분류는 탐구적 창조력의 역작 중 하나다. 한편 보든은 ‘탐구’가 인간의 창조 행위 중 97퍼센트를 차지한다고 보는데, 이것은 컴퓨터가 무척 잘하는 종류의 창조이기도 하다. 패턴이나 규칙을 극한까지 밀어붙이는 것은 계산을 인간 뇌보다 훨씬 많이 수행할 수 있는 계산 기계에 안성맞춤인 일이다. 그런데 그 정도면 충분할까?

둘째 종류의 창조력은 ‘접목’과 관련이 있다. 한 예술가가 서로 다른 두 개념을 접목하는 상황을 상상해 보라. 한 세계를 지배하는 기존의 규칙이 다른 세계의 흥미로운 새 틀을 제시해 주는 경우도 많다. 접목 역시 수학적 창조력의 영역에서 강력한 도구가 된다. 우주의 가설적 형태를 설명하는 푸앵카레 추측의 최종 해법은 면 위의 흐름을 이해하기 위한 도구를 응용한 결과였다. 예술 분야도 이런 식의 교류로 많은 덕을 보았다. 필립 글래스는 라비 샹카르와 함께 작업하면서 얻은 아이디어를 활용해 본인의 미니멀리즘 음악에서 핵심 요소인 부가 기법을 창안했다. 자하 하디드는 자신의 건축 지식을 러시아 화가 카지미르 말레비치의 순수 도형과 접목해 곡선미 있는 독특한 건축 양식을 창안했다.

보든이 말하는 셋째 종류의 창조력은 좀 더 신비롭고 난해한 ‘변혁적’ 창조력이다. 이 창조력은 일의 흐름을 완전히 바꿔 놓는 보기 드문 순간을 설명해 준다. 어떤 예술 형식이든 이러한 변혁기가 있다. 피카소와 입체주의, 쇤베르크와 무조성, 조이스와 모더니즘을 생각해 보라. 이는 상(相)변화, 즉 물이 액체 상태에서 기체 상태로 바뀌는 수준의 변화와 비슷하다.

그런데 그 변혁의 순간은 게임 규칙을 바꾸거나 이전 세대가 조건으로 삼았던 가정(假定)을 버리는 일에 좌우되는 경우가 많다. ‘어떤 수는 제곱하면 양수가 된다.’ ‘분자는 모두 길쭉한 사슬 모양을 띨 뿐 고리 모양을 띠진 않는다.’ ‘곡은 반드시 화성적 음계 구조 안에서 만들어야 한다.’ ‘얼굴에서 눈은 코의 양옆에 있다.’ 언뜻 보면 이런 고정관념에서 벗어나는 과감한 변화는 프로그램화하기 어려울 것 같지만, 이런 종류의 창조력에는 메타 규칙(meta-rule, 충돌 해결 전략을 제시하거나 규칙을 필터링하는 데 사용할 수 있는 메타 수준의 지식을 포함하고 있는 규칙)이 있다. 먼저 제약을 버린 다음 무엇이 나타나는지 보는 것이다. 예술 활동이나 창조 행위에서 새롭고 가치 있는 결과물을 얻으려면 무엇을 버려야 할지, 혹은 어떤 참신한 제약을 도입해야 할지 정해야 한다.

그런데 창조력은 학습 가능할까? 창조력을 기계에 프로그래밍할 수 있을까? 다시 말해 창조력이 후천적으로 습득하는 기술일 가능성도 있을까? 교육이나 프로그래밍은 기존의 것을 모방하는 법을 가르쳐 주는 일인데, 모방이나 규칙 준수는 창조력과 양립할 수 없다고 말하는 사람도 있을 것이다. 하지만 주변에는 저마다 기술을 배우고 익히며 갈고닦은 창조적인 사람이 무수히 많다. 그들의 행동을 살펴보면 우리도 그들을 본받아 언젠가는 창조적인 사람이 될 수 있을까? 매번 새로운 학기가 시작될 때마다 나는 위와 같은 의문을 품는다. 수학 박사 과정의 학생들이 학위를 받으려면 새로운 수학 개념을 창안해야 하기 때문이다. 내가 학생들에게서 창조력을 끌어내는 비법은 보든이 식별한 창조력의 3유형에 근거한다. 탐구는 가장 뻔한 방법일 것이다. 먼저 우리가 현 위치에 이른 과정을 이해한 다음 지평을 조금 더 넓히는 방식이다. 이를 위해서는 지금껏 창조해 온 것을 깊이 파고들어야 한다. 그런 깊은 이해 속에서 전에 한 번도 본 적 없는 무언가가 나오기도 한다. 또한 창조 행위를 수반하는 대변혁은 그다지 자주 일어나지 않는다는 사실을 학생들에게 명심시키는 것이 중요하다.

접목적 창조력은 새로운 생각을 불러일으키는 데 효과적인 수단이다. 종종 학생들에게 자기가 씨름하는 문제와 무관해 보이는 분야의 세미나에 참석하거나 논문을 읽어 보라고 권한다. 동떨어진 수학 영역 분야에서 빌려 온 사고방식이 당면 문제와 부합하면서 새로운 생각을 불러일으킬 수도 있다.

언뜻 보면 변혁적 창조력은 전략으로 이용하기 어려울 것 같다. 하지만 앞서 말했듯 취지는 기존 제약 중 일부를 버려 현 상태를 시험해 보는 것이다. 자기 분야에서 체계의 일부로 받아들였던 기본 규칙 가운데 하나를 바꾸면 어떤 일이 일어나는지 주시해 보라. 물론 이는 위험한 순간이다. 체계를 무너뜨릴 수도 있기 때문이다. 하지만 여기서 창조력을 키우는 데 필요한 가장 중요한 요소를 이야기해야겠다. 바로 실패를 기꺼이 받아들이려는 태도다. 우리는 실패에서 많은 것을 배운다. 학생들에게 나는 사뮈엘 베케트가 남긴 말을 누누이 전하곤 한다. “실패하고, 또 실패하고, 더 낫게 실패하라.”

이런 전략들을 코드로 변환할 수 있을까? 이전까지 통용되었던 코딩에 대한 하향식 접근법에서는 코드가 독창적 결과를 내놓을 가망이 거의 없었다. 프로그래머들은 자기가 만든 알고리즘이 내놓은 어떤 결과에도 놀라지 않았다. 그 결과에는 실험이나 실패의 여지가 전혀 없었던 셈이다. 하지만 상황은 달라졌다. 실패에서 무언가를 배우는 코드에 기반을 둔 어느 알고리즘이, 새로울 뿐만 아니라 개발자에게도 충격적이며 대단히 가치 있는 일을 해냈기 때문이다. 그 알고리즘은 많은 사람이 기계가 절대 마스터할 수 없다고 믿었던 게임에서 승리했다. 반드시 창조력이 발휘되어야만 하는 게임이었다. 바로 이러한 획기적 발전이 내가 최근에 수학자로서 실존적 위기를 겪게 된 계기이기도 하다.

알고리즘의 진화



요즘의 알고리즘은 끊임없이 학습한다. 특히 우리가 보고 읽고 들을 거리 선별을 믿고 맡기는 추천 알고리즘은 더욱더 그렇다. 새로운 이용자가 알고리즘과 상호 작용하며 자신의 취향을 알려 주면, 알고리즘은 다음 이용자에게 적용할 추천 방식을 개선하는 데 도움이 되는 학습 데이터를 새로 얻게 된다. 나는 그런 알고리즘 중 하나를 시험적으로 사용하면서 알고리즘이 내 취향을 얼마나 잘 파악하는지 확인해 보고 싶었다. 그래서 엑스박스 키넥트 알고리즘을 살펴보려고 마이크로소프트 케임브리지 연구소에 들렀을 때 동료를 찾아가 추천 알고리즘의 실시간 학습 과정을 지켜보았다.

그곳에서 내가 접한 그래픽 인터페이스는 영화 200편 정도가 무작위로 배열된 형태였다. 그중 마음에 드는 영화가 있으면 해당 아이콘을 화면의 오른쪽 영역으로 끌어다 놓아야 했다. 전에 재미있게 봤던 영화 몇 편이 눈에 띄었다. 나는 웨스 앤더슨의 열혈 팬이어서 〈맥스군 사랑에 빠지다(Rushmore)〉를 오른쪽에 끌어다 놓았다. 그러자마자 화면의 영화들이 재배열되기 시작해 몇 편의 영화가 오른쪽으로 이동했다. 알고리즘이 생각하기에 내가 좋아할 것 같은 다른 영화들이었다. 내가 좋아하지 않을 만한 영화들은 왼쪽 영역으로 이동했다. 아직은 판단의 근거로 삼을 것이 한 편뿐이다 보니 대부분은 계속 가운데 미확정 영역에 모여 있었다. 내가 아주 싫어하는 영화도 보였다. 나는 〈오스틴 파워〉를 보면 정말 짜증이 나서 그 아이콘을 왼쪽으로 치워 버렸다. 판단 근거로 삼을 영화가 늘어나자 다른 몇 편의 영화가 각각 왼쪽과 오른쪽으로 이동했다. 추천 내용에 대한 알고리즘의 자신감이 커졌다는 것을 알 수 있었다. 이제 우디 앨런의 〈맨해튼〉이 내가 좋아할 만한 영화로 추천되었다. 이를 인정하자 추천 내용이 아주 조금 달라졌다. 그런데 가만 보니 알고리즘은 내가 〈이것이 스파이널 탭이다〉도 좋아할 거라고 생각하는 듯했다. 그 아이콘은 오른쪽으로 한참이나 이동해 있었다. 하지만 그 영화는 딱 질색이라서 아이콘을 화면 왼쪽으로 끌고 가 치워 버렸다. 결국 알고리즘은 내가 〈이것이 스파이널 탭이다〉를 좋아하리라고 예상했기 때문에 나의 부정적 반응에서 많은 것을 배웠다.

새로운 정보를 계산에 포함하자 화면상의 영화 배열 상태가 급격히 달라졌다. 그런데 잠시 후 알고리즘을 구동하는 메타알고리즘에서 좀 더 미묘한 변화가 일어났다. 메타알고리즘은 내게 받은 데이터에서 무언가를 새로 배워 추천 알고리즘의 매개 변수를 조금씩 바꾸었다. 내가 〈이것이 스파이널 탭이다〉를 좋아할 확률이 너무 높게 잡혀 있다는 판단 하에 그 확률을 낮추려고 매개 변수를 조정한 것이다. 메타알고리즘은 전에 웨스 앤더슨과 〈맨해튼〉의 다른 팬들에게서 그들이 대체로 이 영화도 좋아한다는 것을 배웠지만, 이제 누구나 다 그렇지는 않다는 것을 깨달았다. 역동적인 알고리즘은 바로 이런 식으로 상호 작용하면서 계속 무언가를 배우고 우리의 호불호에 적응해 나간다. 이런 알고리즘은 영화나 음악, 책, 배우자에 이르기까지 오늘날 우리가 살면서 하는 수많은 선택에 영향을 미친다.