새로운 질서

새로운 질서

헨리 키신저 외 지음

윌북 / 2025년 8월 / 272쪽 / 19,800원





들어가는 길



한두 해 전만 해도 AI는 토론장의 한구석을 차지하는 정도였다. 그 사이 급속한 발전을 거듭한 후 현재 AI는 도처의 뉴스 매체에서 1면을 장식하는 주제이자 과학, 경제, 언론, 공공 서비스, 교육, 정치에서 전 세계 지도자들의 마음 한복판에 자리 잡은 이슈다. 그런데도 많은 이들이(대중이나 전문가나) 이 새로운 AI 시대가 품은 중요한 측면을 여전히 간과한다. 새로운 AI의 존재와 그에 대한 인류의 대응이 정말 많은 것을 변화시킬 수 있다는 사실 말이다. 인간이 맺고 있는 현실과의 관계, 진실과의 관계, 지식 탐구의 양상, 인류의 신체적 진화, 외교 수행, 국제적인 시스템까지. 이런 문제들은 향후 수십 년간 중차대한 이슈가 될 것이며, 따라서 모든 분야에서 지도자들의 주된 관심사가 되어야 한다.

미래의 AI 시스템은 인간의 건강을 증진하고 부를 창출하는 등 거대하면서 대체로 이로운 발전을 촉진할 것이다. 그러나 이런 AI의 기량에는 기술적·인간적 위험이 수반되며, 그러한 위험은 기지의 것과 미지의 것이 섞여 있다. 한편 AI는 인간의 시간 척도를 압축하는 듯 보인다. 미래에 있을 법한 사물이 생각보다 더 가까이에 있다. 스스로 목적을 정의할 수 있는 기계가 조만간 출현할 것이다. 우리가 이와 관련된 위험을 이겨내길 바란다면, 생각할 수 있는 가장 짧은 시간 안에 대응하고 행동해야 한다. 임박한 과제에 걸린 이해득실과 시급성에 대한 인식을 토대로, 한두 가지 측면만 여기서 소개한다.

기계와 널리 협업하면서 인간은 그 관계가 적절한지 판단해야 한다. 답은 아마 역사 연구에서 도출되거나, 초월적 존재로부터 깨닫는 안보와 효율의 논리에서 찾게 될 것이다. 개인, 국가, 문화, 종교는 AI가 제시하는 정보에 어느 정도까지 진리로서 권위를 부여할지 한계를 정해야 한다. 더불어 AI가 인간과 현실 사이의 중개자가 되게 허락할지 결정해야 한다.

이와 관련해서 한편으로는 인간 활동의 전통적인 역할을 유지하는 것과(그러면서 새로운 지식을 발견하는 임무의 주도권은 AI에 넘길 수도 있다), 다른 한편으로는 지적 영역에서 AI와 새롭게 협업하기 위해 생물학적으로 제한된 인간 정신을 버리는 것 사이에서 선택을 해야 한다. 인간이 목적을 정하고 그것을 달성하기 위해 AI를 이용할 것인가, 아니면 AI가 목적의 일부를 직접 정하도록 허락할 것인가? 무엇보다 인류가 향후 의사결정에 철학적 방향을 제시할 수 있도록, 인간의 존엄성을 현대적이고 지속 가능하게 정의하는 일이 시급하다.

이 책에서 저자들은 AI의 도래를 인간 생존의 문제로 본다. 비인간적인 속도로 작동하는 AI의 잠재력은 전통적인 규제를 무용지물로 만들 것이다. 근본적으로 새로운 형태의 통제가 필요하다. 모든 AI 시스템에 고유한 안전장치를 설치할 기술적 방안을 찾는 일이 전 세계 과학계에 닥친 과제다. 한편 국가와 국제단체는 일단 합의에 도달했으니 이제 감독, 실행, 위기 대응을 위한 새로운 정치 체계를 수립해야 한다. 그러려면 두 가지 ‘일치의 문제’가 해결되어야 한다. 하나는 AI의 행동을 인간의 가치와 의도에 기술적으로 일치시키는 것이고, 다른 하나는 사람들의 생각을 외교적으로 일치시키는 것이다.

우리가 직면한 이슈들은 시급하므로, 위기가 발생할 때까지 기다리기보단 우리 사회가, 인간종이 앞서서 해결해야 한다. AI에 성공적으로 대응하려면 인간의 안전을 확보해야 하지만, 안전 보장이 AI가 제기하는 모든 문제를 해결해주진 못한다. AI 시대에 인류는 변할 것이기 때문이다. 우리가 그 변화의 양상을 좌지우지할 권한을 계속 주장할 것인지, 한다면 어느 정도로 할 것인지 답을 찾아야 한다.



시작



발견

인공지능의 등장: 서양사에서 탐사는 지리적 대상물, 가령 지구와 가장 근접한 행성들에 오랫동안 초점이 맞춰졌다. 탐사로 인간은 땅과 바다, 하늘 등의 물리적 환경에 대한 지식과 통제력을 서서히 획득했다. 아울러 무언가를 발견하려는 인간의 잦아들지 않는 본능 때문에 탐사의 대상이 주변 공간에서 우리 안의 사상으로 확장되는 것은 시간문제였다. 지금 우리는 물리적 탐사뿐만 아니라 지적 탐사의 최전방에 서 있다. AI의 개발은 새로운 발견의 시대를 열었다. AI가 물리적 시스템에 통합되자 로봇 센서가 종래에 인간이 수행하던 역할을 대신했고, 그 덕에 탐사자는 물리적 위험에서 벗어나 탐사할 수 있게 되었다. 그러자 이 분야에 열의를 보이는 개발자와 투자자의 수가 증가했다.

또한 AI는 두려움이 없기 때문에 현실의 광활한 공간에도 겁먹지 않는다. 수치심도 느끼지 않아 실패에 주저함이 없다. 끊임없는 실시간 조정과 실험으로 매우 신속하게 목표를 재조준할 수 있어서, 방금 언급한 개발자와 투자자에게 차질을 빚게 하지 않으면서도 높은 실패율을 감당할 수 있다.

오늘날 AI를 이용한 발견은 민간 기업과 기업인들이 거의 독점적으로 주도하는 프로젝트로, 정부는 보조적인 지지자 역할을 맡을 뿐이다. 보완적인 정부의 지원 없이도 다양한 출처에서 유입되는 풍부한 자본 덕분에 AI의 성장과 확장은 계속 가속될 것이다. 물론 지금으로서는 여전히 개발 초기 단계여서 앞으로도 인적 자원과 사회적 지원이 상당히 많이 필요하다. 그렇지만 미래에는 AI를 이용한 탐사를 지속하는 일이 더는 AI를 배포하는 사회에게 재정적·정치적 부담이 되지 않을 것이다. 이제는 예측 불가능한 상황이 전개되지 않으며 이전 시대의 (모든 잠재력을 선보이기도 전에 끝난) 탐험과도 다르기 때문에, 우리는 AI를 이용한 발견이 열기를 잃지 않고 계속되리라 기대할 수 있다.

AI가 종래의 발견이 가진 제약에서 일부분 벗어났다 해도 완전히 자유로울 수는 없다. 특히 AI의 영향이 점점 더 뚜렷해지기 때문에 더더욱 그러하다. 위험에 대한 민주사회의 수용력과 국제적인 전략 경쟁의 불확실한 미래가 앞으로도 AI라는 영역에서 중요하고도 특별한 변수로 남을 것이다. 일종의 ‘AI 경쟁’이 촉발될 수도 있다. 혹은 명나라 정부가 정화의 ‘보물 함대’를 일괄 폐기한 것과 유사한 결과가 나올 수도 있다. 아니면 각국 정부들이 중간 경로를 따라 진전을 계속 주도할 수도 있다.

21세기의 탐사: AI의 관점에서 인류가 축적한 지식은 드넓은 바다에 펼쳐진 화산섬의 군도와 같다. 이 상상의 풍경 속에서 각 섬의 지리적 중심은 화산 봉우리다. 관찰자의 시선이 화산 봉우리에서 시작해 미끄러지듯 내려가다 결국 해안에 도달하면, 우리가 보유한 지식에 대한 확신이 희미해지고 신뢰도가 떨어진다. 이러한 상상 속 지구의 대양에서 충분한 양의 물이 빠져나갔다고 가정해보자. 그러면 지금까지 인간이 볼 수 없었던 거대한 해저 지형이 드러난다. 섬들은 이제 더는 대양에 자유롭게 떠 있던 땅덩이가 아닌, 거대한 해저 산맥이나 화산의 돌출부로 보일 것이다. 이 돌출부는 해저 바닥에 잠겨 있던 지반에서 충분히 높이 솟아올라 수면 위로 모습을 드러냈을 뿐이다.

이 상상에서 각각의 섬이 상징하는 바가 인간이 이해하는 각 분야라면, 섬 사이의 바닷물은 온 우주를 이해하기 위해 인류가 밝혀내야 하는 불완전한 연결고리다. 우리는 눈앞에 놓인 현실의 지도를 그리는 데서 잠시 안전을 느낄지 모르지만, 우리 밑에 혹은 위에 무엇이 있는지 거의 알지 못한다. AI는 이 풍경을 바꾼다. 가령 물리학을 살펴보자. 아이작 뉴턴이 하늘과 땅의 세계를 관장하는 법칙을 증명하고, 마이클 패러데이와 제임스 클러크 맥스웰이 전기·자기·광학의 질서를 증명했듯이, 물리학자들은 현실의 양극단에서 인간의 존재를 설명하려는 두 개의 양립할 수 없는 이론을 통합해줄 ‘대통일이론’을 꾸준히 찾고 있다. 우주론(일반상대성이론)과 아원자론(양자역학)이 바로 그 두 이론이다.

AI는 겉보기에 완전히 별개인 이해의 영역들에 질서와 체계를 부여한다. 그 과정에서 유전학·언어학·우주론·심리학과 같은 영역들 사이를 (구조가 동일한 군도처럼) 서로 연결할 것이다. AI는 심지어 겉보기에 양립 불가능한 사상을 지닌 학파나 신념 체계들을 화해시키는 데에 일조할 수도 있다.

많은 분야에서 우리는 이미 잠재적 진실들이 광범위한 띠를 형성했음을 파악했다. 물론 그 가운데 다수가 실제로 진실일 확률은 낮다. 인간 이해의 군도에서 이러한 잠재적 진실들은 해안선을 따라 그려진 점이다. 무지는 아니지만 그렇다고 반드시 지식이라 할 수도 없다. 그 해안을 따라 탐사할 지역으로 인도된 AI는 큰 결실을 안겨줄 탐사 방법을 놀라울 정도로 정확하게 판단할 수 있다. 선택·시험·되돌리기·재선택을 빠르게 반복하면서 수백만 개에 달하는 잠재적 선택지들의 영향을 평가할 수 있다.

바로 이 방법으로 구글 딥마인드 연구소의 AI가 고대 중국에서 유래한 게임인 바둑에 관한 기존의 지식을 통달했을 뿐만 아니라, 인간 지식을 확장할 수 있음을 증명했다. 그보다 앞서 선보인 딥 블루와 같은 체스 프로그램들이 철저한 컴퓨팅에 주로 의존한 것과 달리, 바둑 프로그램 알파고는 인간이 놓은 3,000만 개의 수를 바탕으로 스스로 ‘훈련’하여 추론 능력을 선보였다.

알파고의 훈련은 철학과 박사 과정 학생의 정신을 ‘훈련’하는 방식과 흡사했다. 인간 학생은 수년간 학습에 집중하여 사고하고 추론하는 역량을 점차 키운다. 그렇게 훈련한 후 논문 심사에서 스스로 방어하며 질문에 답하는 학생처럼, 딥마인드의 시스템은 더 추상적이고 고차원적인 교육으로 스스로 ‘훈련’한 뒤 그것이 종래에 받은 학습을 초월하여 승산이 가장 높은 수를 유추해냈다. 실제로 알파고는 4,000년에 달하는 바둑의 역사에서 인간이 한 번도 시도한 적 없는 수를 가끔씩 택했다. 한 번에 오직 네 가지 독립변수만 조작 가능한 인간 정신과 달리 AI는 한 번에 셀 수 없이 많은 차원에서 무수한 확률을 판단하기 때문에, 이러한 놀라운 성능을 발휘하는 듯하다.

인간이 질문을 입력했을 때 기존의 검색엔진은 정보의 한 포인트를 검색했다. 하지만 챗GPT 같은 AI 모델에 질문을 입력할 때 인간 사용자가 요청하는 바는 복수의 포인트를 종합하여 결론을 제시하는 것이다. AI는 여러 방향과 차원에서 동시에 움직여 고차원의 공간에서 정보를 생산해내는데, 무수한 분야 및 그 하위 분야 안에서의 관계와 서로 다른 분야들 사이의 관계까지 파악한 후 복잡하게 얽힌 정보들에서 결론을 도출한다. 그런데 인간의 질문에 답하는 AI의 ‘거대언어모델(LLM)’이 가진 초인적인 기량과 속도가 돋보인다. 이러한 기술적 역량은 우리에게 선물이다. 이 모델은 방대한 데이터를 바탕으로 사전 훈련된다. 답의 정확성이 인간이 지지하는 다양한 진실에 대한 신뢰도를 결정하므로, 이 모델은 깊은 해저를 밝히는 지식을 점점 더 상세하게 생산해낸다.

AI는 엄청난 속도로 새로운 지식을 축적하면서 다양한 추가 탐색의 기회를 열어줄 것이다. 알파고는 유독 개방적인(이후 더 많은 선택지를 제시할 가능성이 큰) 해법을 택하는 경향을 보였다. 따라서 일부 AI 모델이 훈련 과정에서 그렇게 개방적인 편향을 흡수했을 수 있으며, 그리하여 앞으로 신속하고 유연한 탐사가 가능할 것이다.

그런데 인간이 AI의 이 새로운 탐색 방식에 적응하기 어려울 수 있다. 가장 중대한 과제는 그러한 탐색이 인간의 현실 인식과 목적을 반영하는지, 한다면 얼마나 하는지, 아니면 혹시 그에 반하는지 파악하는 것이다. 인간은 AI에게 새로운 돌출부를 만들라고 지시하면서 그 진척도와 상태를 계속 파악할 도구를 만들려고 할 수 있다. 아니면 중장비를 스스로 조달하여 인간의 속도에 맞게 천천히 해저에서 침전물을 걷어내는 방식으로 작은 이해의 바위를 확장할 수도 있다. 혹은 결국 인간의 것이 아닌 땅에 결코 발을 내딛지 않겠다고 다짐할 수도 있다.

아울러 AI를 적절히 제어하지 못하게 될 수도 있다. 그렇게 되면 AI는 축적한 지식을 파괴적인 목적으로 사용할 수 있다. AI의 발견 방법은 화산 폭발 못지않게 파괴적일 수 있다. 이 비유를 좀 더 확장해보자. AI는 화산을 다시 분출시켜서 우리가 알던 지식을 폐허로 만들고 그 과정에서 섬의 면적을 확장한다. 심지어 해저의 거대 판이 깨지고 깨진 판들이 서로 충돌하여 새로운 지식의 산맥이 물 위로 솟아오른다.

하지만 그러한 현상은 인간의 경험과 단절되었기 때문에 결국 인지의 위기라는 폭풍을 유발하고, 그 결과 인간은 원치 않더라도 불가피하게 현실을 더욱 완전히 이해하게 될 수도 있다. 반대로 컴퓨팅을 개발할 때에도 그랬듯이 인간의 목적에 부합하게 AI를 개발하려는 인간의 노력은 다른 모든 탐사를 촉진할 것이다. 그렇게 되면 AI는 우주 최고의 자리에 오르거나 혹은 그에 상응하는 권력을 얻으며, 다음 세기에 있을 중요한 발견 부분을 책임질 것이다.



4대 분야



정치

현재 AI가 정복자들처럼 해안에 도착하여 흥분과 불신의 풍문을 동시에 일으키고 있다. 일각에서는 자신의 통치력을 강화해줄 이 새로운 정통성의 원천이 가진 잠재력에 매료되었다. 동시에 절대적으로 의존하게 될까 봐 두려워하며 이를 저지할 대책을 마련하려는 사람들, 또는 적어도 그 여파를 감당하려고 준비하는 사람들도 있다. 이처럼 AI는 수용하려는 충동과 축출하려는 충동을 동시에 일으켰다.

그런데 AI는 정복자일까? 인간 지도자는 AI를 대리하는 꼭두각시가 될까? 통치권이 없는 군주가 될까? 아니면 한때 인간이 신성한 권리를 주장하고 널리 확산했듯이, 신과 닮은 AI가 자신을 왕으로 임명하게 될까? 아니면 AI가 처음에는 어설프지만 갈수록 빈틈없이 인간이 세운 기존의 체제에 편입되어 그것을 보완하고 강화할까? 혹은 불안해하는 지도자들을 안심시키기 위해 환영받지 못한 이민자 계층처럼 종속되어 잠재력을 실현하지 못하고 권력을 잃게 될까?

AI는 분명 과학적 발견을 촉진하고, 노동의 짐을 덜어주고, 통증을 경감시키는, 지금까지 상상할 수 없었던 수단을 인간종에게 선사할 것이다. 그러나 우리는 AI로 정치적 의사결정을 내려야만 하는지, 그것이 바람직한지는 전혀 합의하지 못했다. 그래서 AI가 개선한 환경에서 아주 훌륭한 결과가 보장될 수 있다 해도, 인간이 그러한 권력을 기계에 내주기 전에 주저하는 건 당연하다. 참고로 과학에서는 도구를 사용하여 인간이 지닌 감각기관의 능력을 크게 강화했다. 새 지역을 탐사할 때 선박은 인간을 머나먼 최전방까지 데려다주며 우리의 몸을 보호했다. 하지만 지금까지 정치권력의 행사는 항상 기술 중심적인 일이 아니라 인간 중심적인 일로 남아 있었다. 지금까지는.

새로운 막: 사료를 조사하다 보면 정치에서 보이는 거대한 변화보다 변하지 않는 일관성이 더 눈에 띈다. 수천 년 동안 존재해온 리더십의 전형이 오늘날에도 발견된다. 가령 비극적인 영웅이 된 왕자, 반역을 도모하는 고문, 영예로운 부관, 궁중의 광대, 모습을 드러내지 않는 꼭두각시 조종자, 신뢰할 수 없는 용병은 지금도 있다. 정치를 연극에 비유한다면, 이러한 익숙한 등장인물들은 우리가 달리 이해할 수 없는 신비로운 현상을 설명하고 현실감을 부여한다.

러시아 제국의 위대한 예카테리나 대제, 키이우의 지혜로운 자 야로슬라프 1세, 공포의 이반 뇌제, 오스만 제국의 위대한 쉴레이만 대제가 되기 훨씬 전에, 이 등장인물들은 평범했다. 우리가 이런 지도자들을 존경하는 한 가지 이유는 역사가 그들 각자의 발전 과정을 증언했기 때문이다. 우리는 불리한 환경에서 태어났지만 순전히 신념으로 역경의 족쇄에서 탈출해 사회의 지도자가 되는 사람들을 경외심을 품고 바라본다. 예로 맘루크의 왕 일투트미시는 그의 훌륭한 외모와 날카로운 지성을 시기한 형제들에 의해 노예로 팔렸다. 부하라와 가즈니에서 우즈베크와 아프가니스탄의 노예 상인들 밑에 있다가 이후 델리의 시장에서 구리드라는 노예 감독관에게 팔려갔다. 그로부터 20년 후, 노예 중의 노예였던 그는 술탄을 모시는 직급으로 올라가 그를 소유했던 주인들의 왕국 위에 ‘노예 왕조’를 세웠다.