AI 이후의 세계

AI 이후의 세계

헨리 키신저 외 지음

윌북 / 2023년 5월 / 296쪽 / 19,800원





현주소



2020년 초 매사추세츠공과대학교(MIT) 연구진은 기존의 항생제가 통하지 않았던 내성균들을 사멸시키는 새로운 항생제를 발견했다. 표준적인 방법으로 신약을 개발하려면 연구진은 분자 수천 개를 분석군에 넣고 시행착오와 합리적 추측으로 신약에 쓸 만한 소수의 후보군을 추려내야 한다. 합리적 추측이 아닌 막연한 희망에 기대서 기존 약품의 분자구조를 변형하는 방법도 있다. 모두가 상당한 비용과 노력이 요구된다.

하지만 MIT의 방식은 달랐다. MIT는 AI를 동원했다. 우선 기존에 항균성이 있다고 알려진 분자 약 2000개로 구성된 ‘훈련 세트’를 만들었다. 훈련 세트에는 각 분자의 원자량, 결합 유형, 박테리아 증식억제력 같은 데이터가 부호화되었다. AI는 이 훈련 세트로 항균성이 있으리라 예측되는 분자의 속성을 ‘학습’했다. 놀랍게도 이때 AI는 부호화되지 않은 속성들, 즉 인간이 개념화·범주화하지 못한 속성들까지 인식했다. 연구진은 훈련을 마친 AI에게 지시했다. 총 6000개에 달하는 분자, FDA 승인 약품, 천연물의 데이터를 분석해서 (1)항생 효과가 있고, (2)기존의 항생제와 같지 않으며, (3)무독성으로 예측되는 분자를 찾으라고 말이다. 6000개 중에서 모든 조건을 충족하는 분자는 단 하나였다. 연구진은 영화 〈2001 스페이스 오디세이〉에 등장하는 AI 할(HAL)의 이름을 따서 이 분자를 ‘할리신(halicin)’이라고 명명했다.

프로젝트의 책임자들은 종래의 연구개발법으로 할리신을 찾으려고 했다면 “비용 때문에 엄두도 못 냈을 것”이라고, 즉 실현 가능성이 없었을 것이라고 밝혔다. 하지만 이미 항균 능력이 입증된 분자들의 구조적 패턴을 인식하도록 소프트웨어 프로그램을 훈련하자 더 적은 비용을 들여 더 효율적으로 새로운 분자를 발견할 수 있었다. 이 프로그램은 기존 분자들에 왜 항균 능력이 있는지 굳이 알 필요가 없었다. 실제로 개중에는 작용 원리를 ‘아무도’ 모르는 분자도 존재했다. 그럼에도 AI는 수많은 물질을 조사해서 아직 그 원리는 몰라도 어쨌든 소기의 효과를 내는 물질을, 즉 지금껏 어떤 항생제도 듣지 않던 내성균들을 사멸시키는 물질을 찾아냈다.

제약은 체스와는 비교도 안 되게 복잡한 분야다. 체스는 말의 종류가 6개뿐이고, 말을 움직이는 방법이 정해져 있으며, 승리 조건도 상대방의 킹을 잡는 것뿐이다. 반면에 신약을 개발할 때 고려할 수 있는 분자는 수천·수만 개에 이르고, 각 분자가 바이러스나 박테리아의 다양한 생물학적 작용에 반응하는 방식도 제각각일 뿐만 아니라 뚜렷하게 밝혀지지 않았다. 비유하자면 게임을 하는데 말의 종류가 수천 개이고, 승리 조건이 수백 가지이며, 그 규칙 중 일부는 확실히 알려지지 않은 상황이다. 하지만 AI는 수천 건의 성공 사례를 분석해 그때까지 인간이 진가를 몰랐던 새로운 항생제를 발견했다.

그로부터 몇 달 후 인공지능 연구소 오픈AI에서, GPT-3이라는 AI를 공개했다(GPT는 ‘생성형 사전훈련 트랜스포머(Generative Pre-trained Transformer)’의 약자이며 3은 ‘3세대’를 뜻한다). GPT-3은 미완성 문장을 제시하면 완성된 문장을 만들고, 주제문을 제시하면 문단을 만들고, 질문을 제시하면 답을 만들고, 주제와 배경 정보를 제시하면 완성된 글을 만들고, 대사를 제시하면 대화를 만든다. 체스를 두거나 항생제를 찾는 것처럼 한정된 작업용으로 개발된 AI와 달리 GPT-3 같은 모델은 다양한 입력에 대한 반응을 생성한다(그래서 ‘생성형’ 모델이라고 부른다).

오늘날 인간 수준의 지능이 요구되는 작업을 수행하는 AI가 급속도로 현실에 편입 중이다. AI가 지식과 능력을 습득하는 수단인 머신러닝은 대체로 인간보다 학습 속도가 훨씬 빠르다는 장점 때문에 의학·환경보호·교통·치안·국방 등 다양한 분야에서 점점 활발히 사용되고 있다. 나아가 AI가 발전하고 그 활용 범위가 넓어지면서 이전까지는 까마득해보였던 목표가 시야에 들어오고 있다. 그 풍경 속에는 자연재해를 예방하는 모델, 더 심층적인 수학 지식, 세계와 그 세계가 속한 현실에 관한 더 원숙한 이해가 펼쳐진다. 그 외에도 많은 것이 성취되지만, 그 대가로 인간과 이성의 관계, 또 인간과 현실의 관계가 변하는 중이다. 이 혁명에 대응하려면 기존의 철학 사상과 사회제도만으로는 역부족이다.



튜링의 시대에서 현재, 그리고 그 너머로



AI의 한계와 관리

이전 세대의 AI는 사회에 축적된 현실에 관한 지식을 인간이 일일이 프로그램의 코드에 집어넣어야 했지만, 머신러닝 기반의 최신 AI는 대개 스스로 현실을 모델링한다. AI가 도출한 결과를 개발자가 검사할 수는 있지만, AI는 무엇을 어떻게 학습했는지 인간의 언어로 설명해주지 않는다. AI도 자신이 무엇을 배웠고 왜 배웠는지 정확히 모르기 때문이다. 우리는 훈련을 마친 AI가 내놓은 결과물을 다만 관찰할 수 있을 뿐이다. 그래서 그 결과물을 역으로 분석해야 한다. 즉, AI가 결과물을 생성하면 인간이 그 결과물을 당초 목표에 부합하는지 검사해야 한다.

때때로 AI는 인간의 경험을 초월하고, 언어로 설명할 수 없는 작용으로 인간의 이해력을 넘어서는 진실을 도출하기도 한다. 이런 식으로 AI가 놀라운 발견을 해낸다. 예를 들면 약물의 후보 물질을 발견하고 게임의 새로운 승리 전략을 찾아낸다. 그럴 때 인간은 그 원리를 다 알지 못한 채 다만 신중하게 그것을 기존의 지식 체계에 편입할 수밖에 없다.

유사 이래로 인간은 전쟁을 겪을 때마다 전쟁이 주는 교훈과 슬픔을, 그 극단성을 반추했다. 하지만 AI는 반추하지 못하고, 그러고 싶다는 윤리적 혹은 철학적 충동도 느끼지 않는다. 그저 자신이 아는 기법을 이용해 결과를 산출할 뿐이고, 그 결과는 인간의 관점에서 봤을 때 시시하거나 충격적일 수 있고, 온건하거나 악의적일 수 있다. AI는 반추하지 못하므로 그 행동의 의의를 결정하는 것은 인간의 몫이다. 따라서 인간이 AI를 규제하고 관리해야 한다.

또 한편으로 AI의 편향성은 인간의 편향성을 그대로 반영한 결과일 수 있다. 다시 말해 훈련 데이터에 인간의 행동에 내재한 편향성이 투영됐을 때 AI에도 편향성이 생긴다. 예를 들어 지도학습 시 출력에 고의로든 실수로든 레이블이 잘못 지정됐을 때 AI는 그것을 그대로 부호화한다. 체스용 AI를 훈련하는 시뮬레이터에서 개발자가 좋아하는 전술이 과대평가되었다고 해보자. 그러면 설령 그 전술이 실전에서 효력이 없더라도 AI는 그것을 선호하도록 학습될 것이다.



글로벌 네트워크 플랫폼



네트워크 플랫폼 이해하기

오늘날 SNS, 웹 검색, 영상 스트리밍, 내비게이션, 승차공유 등 수많은 온라인 서비스가 지금처럼 작동하는 이유도 AI가 광범위하게 사용되기 때문이다. 전 세계인이 이런 온라인 서비스를 이용해 상품과 서비스를 추천받고, 이동 경로를 정하고, 타인과 커뮤니케이션하고, 유익한 정보나 답을 얻는 등 일상적이고 기본적인 활동에 도움을 받는다. 그리고 그 과정에서 AI와 인간의 관계, AI 기반 서비스 이용자 간의 관계, 그런 서비스의 개발자 및 운영자와 정부 간의 관계가 새로이 형성되고 있으며, 이 관계들이 향후 개인·조직·국가에 지대한 영향을 미칠 것이다.

현재 인간 활동의 저변에 비인간적 지능이 조용히, 때로는 은밀히 편입되고 있다. 신속하게 전개되는 이 변화의 중심에 이른바 ‘네트워크 플랫폼’이라는 신종 서비스가 존재한다. 네트워크 플랫폼은 막대한 이용자를 유치함으로써 이용자에게 편익을 제공하는 디지털 서비스로, 그 사업 영역이 대개 여러 국가 혹은 전 세계에 걸쳐 있다. 네트워크 플랫폼은 이용자가 늘어날수록 편익과 매력이 커진다. 이용자가 많은 플랫폼에 더 많은 이용자가 몰려들어 결국 소수의 플랫폼만 살아남고, 각 플랫폼은 수억 명에 이르는 방대한 이용자층을 확보하기도 한다. 이 같은 네트워크 플랫폼들이 점점 더 AI에 의존하면서 인간과 AI의 상호작용이 가히 문명사의 전환점을 만든다고 할 만큼 심대하게 발생하고 있다.

AI가 점점 다양한 네트워크 플랫폼에서 더 중요한 역할을 맡으면서, 그런 플랫폼들의 기본적 운영 방식이 개인의 일상에 큰 영향을 미치고 있다. 이런 상황에서 사회의 가치관에 부합하는 방식으로 네트워크 플랫폼을 설명하고, 논의하고, 감독하며 이에 관한 최소한의 사회정치적 합의에 이르지 못한다면, 이 비인간적이고 저지 불가능해 보이는 새로운 세력의 부상에 반대하는 움직임이 일어날 수 있다. 따라서 심각한 사태가 발생하기 전에 정부, 네트워크 플랫폼 운영자, 이용자가 자신들이 추구하는 목표가 본질적으로 무엇이고, 어떤 전제와 한계 내에서 상호작용할 것이며, 어떠한 세계를 만들고자 하는지 따져야 한다.

거대 네트워크 플랫폼들은 정부처럼 경제정책이나 사회정책이 존재하지 않는데도 커다란 경제적·사회적 상호작용을 유발하거나 촉진할 수 있다. 그러다 보니 일부 네트워크 플랫폼은 영리 목적으로 운영됨에도 불구하고 그 규모·기능·영향력 때문에 지정학적으로 중요한 입지를 다진다. 대표적인 네트워크 플랫폼은 대부분 미국(구글, 페이스북)과 중국(바이두, 디디추싱)에서 탄생했다. 그래서 플랫폼 운영자들은 상업적으로나 전략적으로나 미국과 중국의 중요한 시장이 속한 지역에서 이용자와 파트너를 확보하려 한다. 이런 특징이 외교 정책을 수립할 때 새로운 요인으로 작용한다. 네트워크 플랫폼 간의 상업적 경쟁이 정부 간의 지정학적 경쟁에 영향을 미치고, 때로는 외교적 의제를 넘어서기도 한다.

몇몇 네트워크 플랫폼은 서비스 국가에서 일상생활, 정치 논의, 상거래, 기업 운영은 물론이고 정부 행정에도 없어서는 안 되는 요소가 됐다. 네트워크 플랫폼이 제공하는 서비스는 얼마 전까지만 해도 존재하지 않았던 서비스를 포함해 순식간에 필수불가결한 서비스로 등극했다. 네트워크 플랫폼은 동일한 선례가 없었던 만큼 디지털시대 이전에 형성된 규칙과 규범에서 비켜난 측면이 존재한다.

네트워크 플랫폼마다 어떤 콘텐츠를 제작하고 공유할 수 있는지 규정하는(그리고 주로 AI의 도움을 받아 집행되는) 규칙, 즉 커뮤니티 표준이 존재한다. 표면적으로는 대부분의 네트워크 플랫폼이 콘텐츠에 관해 중립적이라고 하지만, 어떤 상황에서는 커뮤니티 표준이 국가의 법만큼 강한 영향력을 발휘한다. 그래서 네트워크 플랫폼과 그 AI가 허용하거나 선호하는 콘텐츠는 순식간에 부상하고, 반대로 플랫폼과 AI가 원치 않거나 노골적으로 금지하는 콘텐츠는 묻힐 수 있다. 허위정보가 포함되는 등 표준을 위반한다고 판정된 콘텐츠는 대중에게로 유통이 사실상 차단된다.

AI 기반 네트워크 플랫폼은 탄생한 지 아직 10년도 안 됐기에 이 기술을 심도 있게 논하는 데 필요한 기본적 어휘와 개념조차 아직 확립되지 않았고, 이 책의 목표도 바로 그런 빈틈을 메우는 데 기여하는 것이다. 물론 AI 기반 네트워크 플랫폼의 올바른 사업 방식과 그에 적용돼야 할 규제를 놓고 다양한 사람, 기업, 정당, 시민단체, 정부가 다양한 의견을 개진할 것이다. 소프트웨어 엔지니어에게는 자명해 보이는 이치가 정치 지도자에게는 황당하게, 철학자에게는 불가해하게 느껴질 수 있다. 소비자는 편리하다고 환영하는 서비스를 안보기관에서는 용납할 수 없는 위협으로, 정치 지도자는 국익을 해치는 것으로 받아들일 수 있다. 한 사회에서 반가운 약속으로 해석되는 규칙이 다른 사회에서는 선택권이나 자유의 침해라고 해석될 수 있다.

네트워크 플랫폼의 성격과 규모를 생각하면, 그 안에서 각계각층의 관점과 우선순위가 어지럽게 섞여서 당연하게도 종종 갈등과 당혹감을 불러일으킬 것이다. 이런 상황에서 개인, 기업, 국가, 국제적 조직이 심도 있게 논의하여 그들이 AI와 맺어야 하는 관계, 또 그들 상호 간에 맺어야 하는 관계를 결정하려면 먼저 공통된 준거들이 필요하다. 비록 해석과 견해가 분분하다고 해도 우리는 AI 기반 네트워크 플랫폼을 깊이 이해하기 위해 그것이 개인·기업·사회·국가·정부·권역에 끼칠 영향을 진지하게 따져야 한다. 각층에서 신속한 대응이 요구된다.

기업과 국가

네트워크 플랫폼이 성장하고 진화하면서 우연히도 본래의 초점에서 벗어난 활동과 분야에 영향을 미치기 시작했다. 그러자 사람들이 AI 기반 네트워크 플랫폼을 신뢰해서 자신이 어디를 갔고, 누구와 무엇을 했고, 뭘 검색하고 봤는지 등 친구나 정부에는 선뜻 알려주지 않을 정보를 제공하기 시작했다. 그렇게 개인정보를 이용하면서 네트워크 플랫폼과 AI가 사회정치적으로 막강한 영향력을 행사하는 위치에 올랐다. 그 변화가 규모로 보나 속도로 보나 엄청난 수준이었기 때문에 아직도 우리는 네트워크 플랫폼이 각 사회에서, 또 국제사회에서 수행하는 역할을 완전히 이해하지 못하고 의견이 분분하다.

요즘 일부 네트워크 플랫폼은 국정에도 영향력을 미친다. 애초에 그럴 의도에서가 아니라 순전히 우연에 의해서다. 하지만 기술의 세계에서 독보적인 지위를 만드는 능력, 감각, 아이디어가 정치의 세계에서도 똑같이 통한다는 법은 없다. 두 세계의 언어, 질서, 생리, 핵심 가치가 다르기 때문이다. 영리 목적으로 운영되고 이용자의 요구에 충실한 어떤 네트워크 플랫폼이 국가의 운영과 전략에 영향을 미친다면, 전통적 정부는 그 플랫폼의 의도와 방침을 제대로 이해하지 못하면서도 그것을 국가와 세계의 목표에 맞게 이용할 방법을 찾아야 하는 난제에 부딪힐 수 있다.

설상가상으로 AI는 인간의 정신과 다른, 그리고 대체로 더 빠르게 작용하는 자체 프로세스를 기반으로 한다. AI는 목적함수에 지정된 내용을 실현하기 위해 제 나름의 방안을 마련한다. 거기서 도출되는 결과와 답은 인간적이지 않고 대개 국가나 기업의 문화와 상응하지 않는다. 더욱이 디지털 세상은 기본적으로 글로벌하므로 AI가 네트워크 플랫폼상에서 전 세계의 정보를 모니터링하고, 차단하고, 선별하고, 생성하고, 유포하기 때문에, 그처럼 복잡한 사정이 각 사회의 ‘정보공간’에 전이된다.

네트워크 플랫폼에 사용되는 AI는 점점 더 고도화되며 국가적 차원과 국제적 차원에서 사회와 상업 활동에 점점 큰 영향을 미친다. 네트워크 플랫폼들이 (그리고 그 AI가) 콘텐츠 중립성을 표방하지만 각 플랫폼은 커뮤니티 표준을 통해, 또 정보를 선별하고 표시하는 방식을 통해 정보가 생성·취합·인지되는 과정에 영향을 미친다. AI는 이용자에게 콘텐츠와 관계를 추천하고, 정보와 개념을 분류하고, 이용자의 취향과 목적을 예측하면서 비록 고의는 아니더라도 개인적·집단적·사회적으로 특정한 선택을 부추길 수 있다. 특정한 유형의 정보가 유통되고 특정한 유형의 관계가 형성되도록 유도함으로써 그 외의 정보와 관계를 차단할 수 있다. 그렇게 AI가 사회적·정치적 결과에 영향을 미칠 가능성이 생긴다. 여기에 운영자의 가치관이나 목적까지 개입된다면 문제가 더욱 복잡해진다.

각국 정부는 이런 문제점을 인지하고 신중히 대처해야 한다. 정부가 AI 운용 방식을 제한하든, 통제하든, 허용하든 간에 그 결정에는 필연적으로 선택과 가치판단이 반영된다. 만일 정부가 네트워크 플랫폼에 특정한 콘텐츠를 구별하거나 차단하기를 권고한다면, 혹은 AI를 이용해 편향되거나 ‘거짓된’ 정보를 식별하고 강등하기를 요구한다면, 그런 결정이 사회정책의 근간으로서 전에 없이 광범위하고 강력한 영향력을 발휘할 수 있다. 그래서 정부의 대응법을 두고 전 세계적으로 심도 있는 논의가 벌어지고 있다. 각국 정부가 어떻게 대응하든 간에 과거의 결정과는 비교도 안 될 만큼 파급효과가 클 것이고, 어쩌면 이는 국경을 초월해 수천만·수억 명의 이용자의 일상에 즉시 영향을 미칠 것이다.

앞으로 네트워크 플랫폼과 AI를 규제하는 정부의 행보가 다양한 사회정치적 목표(예: 범죄율 감소, 편견 타파)에 부응해서 더 정의로운 사회가 이룩될 것인가? 아니면 정부가 기계를 내세워 원하는 결과를 만들어냄으로써 시민의 삶에 더 강력히 개입하고, 시민들은 기계가 불가해한 논리로 도출하는 결론에 속절없이 끌려 다니는 처지가 될 것인가? AI 기반 네트워크 플랫폼에서 시간과 공간의 제약을 넘어 수많은 이용자가 지속적으로 상호작용함으로써, 인류가 공통된 문화를 발전시키고 단일한 국가의 문화나 가치관을 넘어서는 답을 찾을 것인가? 아니면 AI 기반 글로벌 네트워크 플랫폼이 이용자의 행동에서 추출한 특정 교훈이나 패턴을 증폭함으로써, 인간 개발자가 의도하거나 예측한 것과 다른 효과, 심지어는 그런 의도나 예측에 반하는 효과를 일으킬 것인가? 이제 우리는 AI 기반 네트워크가 없이는 커뮤니케이션이 불가능한 시대를 사는 만큼 이런 질문을 결코 간과해서는 안 된다.