AI가 인간을 초월하면 어떻게 될까?

AI가 인간을 초월하면 어떻게 될까?

사이토 가즈노리 지음

마일스톤 / 2018년 3월 / 199쪽 / 13,000원





특이점이란 무엇인가



AI와 나란히 주목받고 있는 키워드, 특이점

테크놀로지의 진보는 우리 생활이나 산업의 양상을 크게 바꿔왔다. 지난 20년을 돌이켜봐도 인터넷이나 스마트폰이 등장하면서 우리 생활은 크게 바뀌었다. 새로운 기술이 그 이전에는 상상도 할 수 없던 생활을 가능하게 해준 것이다. 그렇다면 다음에는 대체 어떤 테크놀로지가 등장할까. 미래를 바꾸는 테크놀로지로서 지금 가장 많은 사람들이 주목하고 있는 것은 아마 AI일 것이다. 알파고는 전 세계 최고의 기사들을 잇달아 격파하여 인간이 더 이상 이길 수 없는 영역에 도달했다는 점에서 커다란 화제를 모았는데, 우리가 그런 화제에 주의를 집중하는 이유는 언젠가 AI가 우리들의 일상생활에도 커다란 변화를 초래하리라 생각하기 때문일 것이다.

이런 현상과 맞물려 또 하나의 키워드가 주목을 받았다. 바로 ‘특이점’이다. 이 말이 일본 내에 확산되는 계기를 만든 자는 소프트뱅크의 CEO 손정의다. 그는 2016년 6월, AI의 진화에 관해 열변을 토하면서 “특이점이 다가오고 있다. 나는 해야 할 일이 조금 더 남아 있지 않을까 하는 욕심이 생겼다. 특이점의 등장을 반드시 보고 싶다.”면서 사장 자리를 지속하게 된 이유가 특이점 때문이라고 밝혔다.

미래학자로서의 커즈와일

필자가 보기에 ‘특이점’이라는 말을 올바르게 이해하고 있는 사람은 그리 많지 않은 듯하다. ‘특이점’은 원래 수학이나 물리학 세계에서 흔히 사용되는 개념이기 때문에 일반인이 모르는 것도 이상한 일은 아니다. 참고로 우주물리학 분야에서는 이론적 계산에 따르면 블랙홀 안에 중력의 크기가 무한대에 이르는 ‘특이점’이 존재한다고 말한다. 물론 손정의가 “보고 싶다.”고 말한 특이점은 블랙홀과는 아무런 관계가 없다. 여기서 말하는 특이점은 그냥 특이점이 아니다. 정식 명칭은 ‘기술적 특이점’이다. 그런데 지금은 ‘특이점’이라고 하면 이 기술적 특이점을 의미하게 되었다.

좁은 의미에서의 ‘특이점’인 이 개념은 발명가이자 미래학자이며 AI의 권위자인 레이 커즈와일이 2005년에 발표한 저서를 계기로 정착되었다. 저서의 제목은 『The Singularity is Near』이다. 한편 그가 미래학자로서 세계를 놀라게 한 것은 인간게놈 계획이 완료되는 시기에 대한 예언이었다. 당시 인간 게놈을 해석하는 프로젝트는 1990년에 시작해서 15년 안에 완료할 예정이었다. 그러나 7년이 지나도록 상황은 1퍼센트만 진척됐다. 단순히 계산하면 끝마칠 때까지 700년은 걸린다는 결과가 나온다. 하지만 커즈와일은 “1퍼센트의 진척을 봤다는 건 이미 절반 이상 성공했다는 뜻이다.”라며 이후 몇 년 안에 인간게놈 해석이 완료되리라고 예언했다. 결과적으로 인간게놈 해석은 정말로 그가 예언한 시기에 완료되었다. 완성판은 2003년에 공개됐지만, 해석 작업 자체는 2000년에 종료됐다.

특이점은 ‘AI가 인류를 초월하는 지점’이 아니다 / ‘곱절 게임’이 불러오는 기술의 폭발력여기서부터는 커즈와일의 저서를 참조하면서 이야기를 진행해보도록 하자. 『The Singularity is Near』에서 커즈와일은 ‘예언’을 했다. 바로 ‘기술적 특이점’이라고 불리는 현상이 2045년에 발생한다는 예언이다. 그런데 그가 말하는 특이점이란 무엇일까. 앞에서 언급한 블랙홀의 ‘특이점’은 계산상 중력이 무한대가 되는 지점이다. 그와 마찬가지로 기술 역시 어느 지점에서 무한대에 이를 것이라고 예측되고 있고, 그 지점이 바로 ‘기술적 특이점’이다. 그러니 특이점이란 기술이 진보하는 속도에 관한 개념이다. 인간게놈 계획을 떠올려보자. 7년 동안 전체의 1퍼센트밖에 진척을 보이지 못했음에도 불구하고 그는 “이미 절반 이상 성공할 것”이라고 지적했다. 게놈 해석 기술이 가속도적으로 진보할 것이라고 믿었기 때문이다. 다른 예로 컴퓨터의 계산속도 등의 기술이 일정하다면 7년 동안 1퍼센트밖에 진전되지 않는다. 그러나 해석 기술이 가속도적으로 진보한다면 같은 7년이라도 훨씬 더 ‘멀리’까지 갈 수 있다. 커즈와일은 그 속도가 ‘곱절’로 빨라질 것이라고 생각했다.

‘곱절 게임’의 무서움을 감각적으로 이해할 수 있는 예를 하나 들어보자. 한 걸음에 1초가 걸리는데 1미터씩 같은 간격으로 곧장 걸어가면 당연히 30초 동안에는 30미터정도밖에 나아갈 수 없다. 그러나 그 보폭이 한 걸음마다 2미터, 4미터, 8미터…… 하는 식으로 곱절로 커진다면 30초 동안 어느 정도나 나아갈 수 있을까. 놀랍게도 30초면 지구를 20바퀴 이상 돌 수 있다.

2045년, 기술진보 속도가 ‘무한대’에 이른다

이처럼 ‘곱절’로 증가하는 방식을 그래프로 표시하면 아래와 같다. 수학에서는 이런 그래프를 그리는 함수를 ‘지수함수’라고 부른다. 이 책을 읽는 동안에는 이 그래프의 이미지를 머릿속에 단단히 새겨두기 바란다. 지수함수를 영어로는 ‘exponential function’이라고 부른다. 이 함수에서는 결과 값이 기하급수적으로 늘어난다는 뜻이다.

인간의 능력이 근본적으로 뒤집히는 대변혁

커즈와일은 특이점의 영향력에 대해서는 “예측할 수 없다.”고 고백했다. 단, 그는 그것이 ‘인간의 능력이 근본적으로 뒤집히는 대변혁’ 수준의 현상이 될 것이라고 표현했다. 이른바 ‘인류가 생물을 초월하는 수준’이다. 지구상의 생물은 40억 년에 걸쳐 진화해왔는데 특이점에 이르면 그 진화가 그때까지의 시계열에서 해방되어 무한대로 증식하기 시작하는 것이다. 인간이 만들어낸 과학기술이 스스로 보다 우수한 과학기술을 만들어내는 시점이 특이점이다.

생명은 ‘수확가속의 법칙’으로 진화해왔다

커즈와일의 예측을 회의적으로 보는 사람들도 있다. 그러나 이 시대를 살고 있는 우리 입장에서 볼 때 특이점이 발생하는가, 발생하지 않는가는 중요한 문제가 아니다. 특이점이 실현되건 실현되지 않건, 이를 향하여 테크놀로지가 기하급수적으로 발전한다는 것은 분명한 사실이기 때문이다. 따라서 그런 시대적 변화에 우리가 어떻게 대응해야 할지를 생각해야 한다. 커즈와일은 기하급수적 진화의 바탕에는 인간 그리고 그로 인한 테크놀로지의 진화 속도가 본질적으로 가속화되는 속성이 있다고 생각했다. 일명 ‘수확가속의 법칙’이다. 하나의 중요한 발명이 다른 발명과 연결되면서 다음의 중요한 발명이 탄생하기까지의 기간이 단축된다는 법칙이다. 이는 인류의 테크놀로지에만 국한되지 않는다. 커즈와일에 의하면 생명진화 과정도 이 법칙을 따라 가속화되어왔다. 인류 테크놀로지의 역사는 40억 년에 이르는 생명진화의 역사와 연결된다.

2020년대, ‘전 특이점’이 찾아온다

2045년으로 예측되는 특이점이 정말로 발생할지 하는 문제와 별개로 2020년대에 컴퓨터의 집적도가 인간의 뇌를 추월한다는 것은 거의 틀림없는 사실로 예견되고 있다. 일본의 슈퍼컴퓨터 개발 분야의 일인자인 사이토 모토아키는 『엑사스케일의 충격』이라는 저서에서 그 포인트를 ‘전 특이점’이라고 불렀다. 그는 이 책에서 앞으로 10년 안에 6리터 정도의 상자 안에 인류 70억 명의 두뇌 총량과 비슷한 성능을 가진 컴퓨터를 넣을 수 있으리라 예측했다. 굳이 2045년의 특이점을 기다리지 않더라도 확실하게 발생할 전 특이점은 인류의 존재를 크게 바꾸어놓을 것이다. 전 특이점까지는 앞으로 10년 남짓, 본격적인 특이점까지는 앞으로 30여 년이 남았다. 인류 역사상 전례 없는 가속도로 변화할 이 격변기에 우리는 무엇을 생각하고 어떤 식으로 나아가야 할까.



폭발적 진화가 초래할 6D



생활을 극적으로 바꿀 ‘GNR’ 혁명

커즈와일은 앞으로 인류의 진화에 큰 영향을 미치고 우리 생활을 극적으로 바꿀 존재로 세 가지 ‘혁명’을 제기했다. 그것은 유전학(Genetics) 혁명, 나노기술(Nanotechnology) 혁명, 로봇공학(Robotics) 혁명인데, 이 세 가지 혁명의 머리글자를 따서 ‘GNR’이라고 총칭한다. 그 내용을 차례로 살펴보자. 유전학이나 생명과학 분야에는 해결해야 할 윤리적 문제가 있지만 기술 자체의 진보는 확실하게 진행될 것이다. 그래서 지금은 아직 암도 극복하지 못하고 있지만 커즈와일은 “다음 10년 동안 대부분의 질병은 치료 가능해질 것이고 노화는 그 속도가 늦춰지거나 역행될 것이다.”라고 말한다. 이 혁명 하나만 봐도 우리의 인간관은 분명히 크게 바뀔 것이다.

다음 나노기술에 대해 알아보자. 지금 스마트 콘택트렌즈, 3D 프린터용 소형전지, 암세포를 죽이는 나노입자, DNA 토대의 컴퓨팅 등의 연구가 진행 중이지만, 이 분야에서 언젠가 큰 혁명이 일어날 가능성이 가장 높은 것은 뭐니 뭐니 해도 ‘원자 프린터’, 즉 원자를 소재로 사용하는 3D 프린터다. 현재의 3D 프린터는 금속이나 플라스틱 등의 소재를 입체적으로 성형해주지만, 나노기술을 구사하는 원자 프린터는 필요한 원자만 준비하면 그 자리에서 모든 소재를 구성해 물질을 만들어낼 수 있다. 마지막으로 로봇공학 혁명에 대해 알아보자. 로봇공학의 최종적인 목표는 ‘인간보다 우수한 로봇을 만드는 것’이라고 생각하면 된다. 여기에는 당연히 AI가 포함된다.

이렇게 세 가지의 ‘혁명’이 어우러져 서로의 진화를 가속화하는데, 여기에는 ‘수확가속의 법칙’이 작용한다. 이 융합이 다양한 진화를 동시다발적으로 일으키고, 우리 생활을 극적으로 바꾸면서 테크놀로지 전체가 특이점을 향해 진화해가는 것이다. 그중에서도 AI가 담당하는 역할은 매우 크다.

‘기하급수적 진화’는 환상이 아니라 현실이다

기하급수적 진화가 무엇인지 조금 더 정확하게 이해하기 위해서 ‘6D’라는 프레임워크를 소개하도록 하겠다. 이는 디아만디스가 제기한 이론인데, 그는 ‘엑스프라이즈 재단’의 회장 겸 CEO로도 알려져 있다. 엑스프라이즈란 ‘인류에게 이익을 안겨주는 파괴적인 혁신을 민간에서 일으킨다’는 목적으로 설립된 상금 콘테스트다.

모든 기술진보의 시작, 디지털화

디아만디스는 모든 일이 기하급수적으로 성장할 때는 일반적으로 머리글자 ‘D’의 다음과 같은 여섯 가지 사상이 연쇄반응적으로 발생한다고 말했다. ‘① 디지털화(Digitalization) ② 잠복기(Deception) ③ 파괴적 혁신(Disruption) ④ 무료화(Demonetization) ⑤ 무권화(Dematerialization) ⑥ 민주화(Democratization)’ 첫 번째의 ‘디지털화’부터 차례로 설명해보자. 연속된 양을 가리키는 ‘아날로그’의 대립적 개념이 ‘디지털’이니 양을 이산적(discrete)으로 셀 수 있도록 만드는 것이 ‘디지털화’의 본질이다. 디지털화에 따른 혁신의 이해하기 쉬운 예로 ‘사진’을 들 수 있다. 필름으로 촬영하여 현상하고 인화해서 보존했던 사진은 언젠가부터 디지털 데이터로 바뀌었다. 필름이나 종이라는 물질적인 제약에서 해방된 것이다.

잠복기 이후 일어나는 갑작스러운 파괴

그러나 사진의 디지털화 초기에 이것이 주류가 되리라고 생각한 사람은 별로 없었다. 시장에 나돌기 시작한 디지털 카메라를 보고 ‘이게 뭐야? 장난감 같잖아’라고 받아들여 오히려 아날로그 사진의 장점을 재인식하게 된 사람도 많았다. 아무튼 디지털화는 발생 초기에는 큰 영향력을 발휘하지 않는다. 이는 기하급수적 진화가 갖는 커다란 특징이다. 지수함수 그래프는 초기 단계에서는 거의 상승하지 않는다. 이것이 ‘6D’의 두 번째 단계에서 발생하는 ‘잠복기’다. 그러나 기하급수적 진화는 얼마 후에 다음 단계를 맞이한다. 처음에는 ‘별것 아니잖아’라고 실망했던 사람들이 ‘어라? 이거 생각보다 대단한데’라고 놀라게 되는 순간이다. 디아만디스는 이 단계를 ‘파괴적 혁신’이라고 불렀다. 기하급수적 진화가 일어날 때 기존 시장은 파괴된다. 디지털 카메라를 장난감으로만 생각했던 코닥은 이 단계에서 시장으로부터 퇴출당했다.

기존의 기술은 잇달아 ‘무료화’된다 / 물품과 서비스도 ‘무권화’되고 ‘민주화’된다

디아만디스는 ‘파괴적 혁신’에 이은 네 번째의 D로 ‘무료화’를 들었다. 여기서 무료화되는 대상은 기술이 낳은 상품이 아니라 그 이전의 상품이다. 예를 들어 사진의 디지털화에 의해 코닥은 필름이라는 수익원을 잃었다. 또한 전에는 현상하는 데도 돈이 들었지만 지금은 그 과정 자체가 사라졌다.

무료화가 물품이나 서비스에 대한 대가를 없앤다는 의미라면, 다섯 번째 D인 무권화는 물품이나 서비스 자체가 사라지는 것을 의미한다. 예를 들어 디지털 카메라 보급에 의해 필름을 사용하는 기존 카메라가 거의 사라졌는데, 변화는 거기서 그치지 않는다. 그다음 순간에는 그 디지털 카메라도 모습을 감추더니 스마트폰 속 애플리케이션 중 하나가 되어버렸다. 더구나 애플리케이션으로 만들어진 각 기능은 과거의 기계보다 훨씬 값싸게 그리고 누구나 쉽게 이용할 수 있는데, 이것이 여섯 번째의 D인 ‘민주화’다. 기하급수적 기술진화가 초래하는 연쇄반응의 최종 단계에 이르면 이런 현상이 발생한다.



제4차 산업혁명의 시작



인더스트리 4.0, 소사이어티 5.0의 시대

지금까지의 이야기를 통해서 기하급수적 기술진화가 초래하는 혁명에 대한 대략적인 이미지를 그릴 수 있을 것이다. 이제부터는 그 내용을 이해한 상황에서 현재의 우리가 무엇을 해야 할지에 관해 생각해보기로 하자. 우선은 이 혁명이 먼 미래의 이야기가 아니라, 이미 시작됐다고 생각해야 한다. 사실 2016년 중반부터 ‘제4차 산업혁명’이라는 말이 여기저기서 들려오기 시작했는데, 이는 이미 그 상황에 접어들었다고 많은 사람이 생각하고 있다는 의미다.

제4차 산업혁명은 독일이 2013년에 제기한 ‘인더스트리 4.0’이라는 프로젝트에서 시발되었다. 인더스트리 4.0은 공장의 정보를 디지털화하여 AI나 사물 인터넷을 활용해 산업 자체를 네트워크화하려는 시도인데, 이를 과거의 산업혁명에 필적할 대변혁으로 포착하여 제4차 산업혁명이라고 부른다. 한편 비슷한 개념으로서 ‘소사이어티 5.0’이라는 말을 들어본 사람도 있을 것이다. 이는 인류가 다섯 번째의 새로운 버전으로 갱신되어가고 있다는 의미인데, 이 시각에서는 수렵채집 사회가 소사이어티 1.0, 농경 사회가 2.0, 공업화 사회가 3.0, 정보화 사회가 4.0이다.

제4차 산업혁명은 제3차 산업혁명과 무엇이 다른가 / 3D 프린터가 제조업에 몰고 올 변화 시나리오인더스트리 4.0은 공장의 네트워크화를 지향하는데 그 중심을 이루는 기술은 사물 인터넷이다. 즉, 사물과 사물이 인터넷으로 연결되고 정보를 교환하면서 서로를 제어하고 보완하게 된다. 한편 독일에서는 이러한 발상을 구현한 선진적 공장을 ‘스마트 팩토리’라고 부르는데, 이러한 움직임은 제조업의 존재 성격을 격렬하게 변화시킬 것이다. 그리고 이런 상황에서도 혁명의 주역 자리는 3D 프린터 로봇이 차지하게 될 것인데, 그 이유는 그것이 높은 범용성을 갖추었기 때문이다. 아무튼 공장의 사물 인터넷화나 3D 프린터 시대에 대응하지 못하면 기업으로서 살아남을 수 없다.

우버가 대체한 것은 택시만이 아니다 / 필요할 때 필요한 인재를 조달하는 시대

자동차 기업에 커다란 영향을 끼치는 것은 사물 인터넷이나 3D 프린터만이 아니다. 앞에서 파괴적 혁신을 일으킨 기술이 뜻밖의 상품이나 서비스를 의도치 않게 무료화하는 경우가 있다고 말한 바 있는데, 이러한 사례를 자동차 기업과 우버의 관계에서 찾아볼 수 있다. 한편 자동차뿐 아니라, 앞으로는 ‘인재’도 공유하는 시대가 될 것이다. 지금까지 기업은 많은 직원을 지속적으로 고용해서 고정급여를 지불해왔지만, 적어도 실리콘밸리의 벤처기업에는 그런 발상이 거의 없다. 필요할 때 필요한 지적 능력을 갖춘 인재를 모아 활용하는데, 그 인재가 인도에 있건 아프리카에 있건 상관없다.