2029 기계가 멈추는 날

2029 기계가 멈추는 날



게리 마커스, 어니스트 데이비스 지음

비즈니스북스 / 2021년 6월 / 408쪽 / 19,800원





꿈과 현실의 간극에 선 AI



기계는 얼마나 인간과 가까워졌나

지난 몇 년 동안 AI는 거의 매일같이, 때로는 정말 놀라운 방식으로 진보해왔다. 게임부터 음성 인식, 얼굴 인식에 이르기까지 모든 방면에서 큰 발전이 있었다. 최근 AI 분야에서 이루어진 이런 성공들 대부분은 주로 두 분야의 발전 덕분에 가능해졌다. 첫째는 동시에 작동하는 많은 기계를 활용함으로써 더 많은 메모리와 더 빠른 계산을 가능하게 하는 하드웨어의 발전이다. 둘째는 빅데이터, 즉 기가바이트나 테라바이트(혹은 그 이상)의 자료를 담고 있는 대규모 데이터 세트다.

이런 데이터와 함께 부각된 기술이 데이터를 분석하는 알고리즘, 즉 딥러닝(deep learning)이다. 구글 딥마인드의 알파제로부터 구글이 내놓은 인공지능 비서 구글 듀플렉스까지 지난 몇 년간 AI가 이룬 거의 모든 진보의 중심에는 딥러닝이 있었다. 그리고 모든 경우에서 성공의 공식은 빅데이터, 딥러닝, 빠른 하드웨어의 결합이었다. 오늘날 딥러닝은 피부암 진단에서 여진 예측, 신용카드 사기 탐지에 이르는 다양한 응용 분야에서 꽤 성공적으로 활용되고 있다. 그러나 데이터가 더 풍부해지고 컴퓨터 클러스터의 속도가 더 빨라지고 투자가 더 많아졌어도 근본적인 문제가 남아 있다.

이런 모든 진전에도 불구하고 기계는 여전히 여러 면에서 인간에 비할 바가 못 된다는 사실이다. 읽기를 예로 들어보자. 당신이 새로운 문장을 읽거나 들을 경우, 당신의 뇌는 1초도 안 되는 시간에 2가지 유형의 분석을 수행한다. 첫째, 문장을 명사와 동사 등의 구성 요소로 나누고 그들의 의미를 개별적으로 또 전체적으로 분석한다. 둘째, 당신이 세상에 대해서 알고 있는 것들과 문장의 내용을 연결 지어서 세부적인 문법 사항들을 모든 실체와 아이디어에 통합한다. 그런데 현재의 AI 프로그램은 이와 같은 일을 할 수도, 이해할 수도 없다. 지금까지 이루어진 AI 분야에서 진전 대부분은 ‘대상 인식’과 같은 영역에서 이루어졌는데, 대상 인식은 의미를 이해하는 것과는 전혀 다른 별개의 문제다.

실제 세상에서는 이 2가지, 즉 대상 인식과 진정한 이해 사이의 차이가 매우 중요하다. 예를 들어 현재 소셜미디어 플랫폼을 작동시키는 AI 프로그램은 클릭 수를 올리는 충격적인 이야기들을 우리에게 제공함으로써 가짜 뉴스를 확산시키는 데 한몫한다. 하지만 그들은 뉴스를 충분히 이해하지 못하기 때문에 어떤 이야기가 가짜이고 어떤 것이 진짜인지 판단하지 못한다.

운전과 같은 매뉴얼된 일도 대부분의 사람들이 생각하는 것만큼 간단치가 않다. 운전을 할 때 당신이 하는 일의 95퍼센트는 아주 평범하고 일상적인 행동으로 기계가 쉽게 복제할 수 있다. 그러나 전동 킥보드를 탄 10대가 차 앞으로 뛰어드는 일을 처음 당했을 때라면 어떨까? 현재의 기계는 이런 경우 인간이라면 마땅히 할 일을 적절히 해내지 못한다. 반면 당신은 이전의 경험이라는 거대한 데이터베이스가 없어도 강력하고 유연한 세상에 대한 이해를 기반으로 새롭고 예상치 못한 일에 대해 판단하고 행동을 취할 수 있다. 문제의 핵심을 한마디로 표현하자면 현재의 AI는 ‘제한적’(narrow)이라고 말할 수 있다. AI는 마주치는 상황이 이전에 경험했던 상황보다 지나치게 어렵지 않다는 전제하에 프로그램된 ‘특정한 과제’만을 수행할 수 있다. 이럴 경우 바둑처럼 말을 움직이는 게임(2,500년간 규칙이 변하지 않은 과제)을 할 때는 문제가 없다. 하지만 대부분의 현실 상황에서는 전망이 밝지 않다. AI를 다음 단계로 진보시키려면 훨씬 더 ‘유연한 기계’를 발명해야 한다.

문제는 우리가 지금 갖고 있는 AI에 대한 접근법으로는 그곳으로, 즉 가정용 로봇이나 자동화된 과학적 발견으로 가지 못한다는 데 있다. 중요한 조각이 아직 빠져 있기 때문이다. ‘제한적인 AI’(Artificial Narrow Intelligence, 이하 ANI)만으로는 충분하지 않다. 하지만 우리는 신뢰할 수 없고 더 심각하게는 인간에 대한 아무런 이해가 없는 기계에게 점점 더 많은 권한을 넘겨주고 있는 중이다. AI에 투자되는 엄청난 돈이 중대한 이해관계가 걸린 문제에 이용되기에는 불안정하고 애매하고 신뢰성이 너무나 낮은 해법으로 향하고 있는 것이 지금의 현실이다.

‘닫힌 세계’에 갇혀 있는 인공지능

문제의 핵심은 ‘신뢰’다. 우리가 현재 가지고 있는 ANI 시스템은 프로그램된 분야에서는 효과가 좋지만, 프로그래머가 정확히 예견할 수 없는 일에서는 신뢰성이 낮다. 심각한 결과를 불러올 수 있을 상황이라면 신뢰가 특히 중요하다. AI 시스템이 페이스북을 통해 잘못된 광고를 게재한다고 해서 사람이 죽지는 않는다. 하지만 데이터베이스에 없는 이상하게 생긴 차를 향해 그대로 돌진하거나 암 환자를 오진한다면 심각한, 심지어는 치명적인 결과가 초래된다.

현재의 AI가 놓치고 있는 부분(이 분야가 새로운 접근법을 택하지 않는 한 계속 놓치게 될)은 범용(broad)지능(혹은 일반지능)이다. AI는 엄청난 양의 관련 데이터에 담긴 구체적인 상황만이 아니라, 이전에 보지 못한 새로운 문제들과 변형된 상황들도 다룰 수 있어야 한다. 참고로 우리가 사는 세상은 근본적으로 열린계(open system)다. 범용지능은 이런 세상에도 유연하게 적응할 수 있다(이는 기계가 아직 접근하지 못하는 인간의 대단한 능력이다). AI가 다음 단계로 진전하기 위해서는 반드시 이 분야로 가야 한다. 반면 ANI는 바둑과 같은 게임을 할 때 완전히 닫힌계(closed system)를 다룬다.

바둑의 세상은 가로 19줄, 세로 19줄의 격자와 흰 돌, 검은 돌로 이루어져 있다. 규칙은 고정적이며 따라서 많은 가능성을 빠르게 처리하는 능력을 가진 기계가 당연히 유리한 위치에 서게 된다. AI는 바둑판의 상태를 빠짐없이 파악하며 자신과 상대가 규칙에 따라 취할 수 있는 모든 움직임을 안다. 게임에서 움직임의 절반은 AI 알고리즘으로 이루어지며, AI는 결과가 어떻게 될지 정확히 예측할 수 있다. 프로그램은 수백, 수천만 번의 게임을 통해서 막대한 양의 데이터를 모으고, 이 데이터는 또다시 AI가 게임을 하게 될 환경을 정확하게 반영한다.

반면에 우리가 사는 현실 세계는 열린계다. 어떤 데이터도 계속 변화하는 세상을 완벽하게 반영하지 못한다. 고정된 규칙이 없고 가능성은 무한하다. 우리는 어떤 상황도 미리 연습할 수 없고, 어떤 상황에서 어떤 정보가 필요하게 될지 예측할 수도 없다. 뉴스를 읽는 시스템을 예로 들어보자. 지난주에 혹은 지난해에 일어난 모든 일, 아니 기록된 모든 역사를 학습시켜도 새로운 상황이 발생하면 이 시스템은 무용지물이 된다. 지능이 있는 뉴스 읽기 시스템은 “드라이버를 사용하면 나사를 조일 수 있다.”에서 “초콜릿 총은 진짜 총알을 발사할 수 없다.”에 이르기까지 이전에 중요한 뉴스로 나온 적이 없더라도 평범한 성인이라면 알 만한 모든 배경 정보에 대처할 수 있어야만 한다. 이런 유연성이야말로 평범한 사람이라면 모두 가지고 있는 범용지능의 가장 핵심적인 부분이다.

세상의 다양성과 복잡함을 기계가 알 수 있을까

우리는 기존의 AI 연구가 안전하고 스마트하고 믿을 만한 AI로 향하는 길 위에 있지 않다고 생각한다. ANI, 즉 제한적 의미의 AI와 쉽게 얻을 수 있는 빅데이터에 대한 단기적 집착이 AI의 진보를 위해 해결해야 하는 훨씬 더 어렵고 장기적인 문제, 즉 ‘기계에게 세상의 다양성과 복잡함을 가르치는 법’에 대한 관심을 앗아갔다. 그런 깊이 있는 이해 없이는 진정으로 신뢰할 수 있는 AI에 이를 수 없다. 기술 용어로 우리는 ‘국소 최대치’쯤에 갇혀 있는 것 같다. 시도해본 비슷한 방법들보다는 낫지만, 우리를 원하는 곳으로 데려다주기에는 한참 부족한 접근법에 말이다.

지금으로서는 야심과 현실 사이에 엄청난 격차가 있는데, 우리는 이 격차를 ‘AI 캐즘’(chasm, 깊은 틈이나 큰 차이를 뜻함)이라고 부른다. 이 캐즘은 솔직하게 맞부딪혀야 하는 3개의 개별 과제에 뿌리를 두고 있다. 첫 번째 과제를 우리는 ‘허술한 신뢰 격차(gullibility gap)라고 부른다. 이는 우리 인간이 인간과 기계를 구분하도록 진화하지 않아서 쉽게 속을 수밖에 없다는 사실에서 출발한다.

우리는 행동의 기반을 아이디어, 믿음, 욕구와 같은 추상적인 부분에 두도록 진화했고, 이런 인간들과 평생을 살아왔기 때문에 컴퓨터에게도 지능이 있다고 생각한다. 기계의 행동이 피상적으로는 인간의 행동과 비슷할 때가 많다 보니, 기계에는 인간이 가진 기본 기제가 없는데도 우리는 기계에 그런 기제를 적용한다. 인간에게 적용됐을 때는 가치 있는 추론도 AI 프로그램에 적용됐을 때는 완전히 틀릴 수 있다. 사회심리학의 핵심 원리에 경의를 표하는 의미에서 우리는 이것을 기본적 과대 귀인 오류(심리학 용어인 ‘기본적 귀인 오류’에서 따온 말)라고 부른다.

두 번째 문제를 우리는 ‘착각적 진보 격차’(illusory progress gap)라고 부른다. 쉬운 문제에 관한 AI의 진보를 어려운 문제에 관한 진보로 오인하는 현상이다. 왓슨에 대한 IBM의 과도한 전망에서 이런 오류가 나타났다. 《제퍼디!》에서 보인 진전을 언어의 이해에 있어서 실제보다 큰 진전으로 받아들인 것이다. 딥마인드의 알파고도 그 비슷한 길을 따를 가능성이 보인다. 바둑과 체스는 ‘완벽한 정보’가 주어진 게임이다. 그러나 현실 세계에서는 아무도 어떤 것을 절대적으로 확실하게 알 수 없다. 우리의 데이터는 잡음이 많고 불완전한 경우가 많다. 대단히 간단한 경우에도 많은 불확실성이 존재한다.

구름이 뒤덮인 날 병원에 걸어갈지 지하철을 탈지 정한다고 생각해보라. 우리는 지하철이 오는 데 시간이 얼마나 걸릴지, 붐비는 사람들 틈에 끼어 있게 될지, 걸어간다면 비에 얼마나 홀딱 젖게 될지, 우리가 늦었을 때 의사가 어떤 반응을 보일지 정확히 알지 못한다. 우리는 그때그때 주어진 상황에 따라 행동한다. 그에 비해 딥마인드의 알파고가 하듯이 혼자서 100만 번 바둑을 두는 일은 예측 가능한 일이다. 거기에서는 불확실성이나 불완전한 정보와 마주할 일이 없다.

AI 캐즘의 세 번째 원인 제공자는 ‘신뢰성 격차’(robustness gap)다. 우리는 사람들이 AI에 관해서 어떻게 생각하는지를 여러 번 목격했다. 사람들은 몇 가지 경우에 효과적인 해법을 찾기만 하면, 약간의 작업(그리고 약간의 데이터)을 더해 모든 경우에도 효과적인 AI를 얻을 수 있다고 쉽게 가정해버린다. 하지만 꼭 그런 것은 아니다. 자율주행차를 생각해보라. 한산한 도로에서 정확하게 차선을 지키는 시범 자율주행차를 만드는 일은 비교적 쉬운 일이다. 하지만 도전적이거나 예상하기 힘든 상황에서도 작동하게 만들기란 훨씬 더 어려운 일이다. 듀크대학교 인간 및 자율성 연구소의 소장인 미시 커밍스가 표현했듯이, 문제는 해당 자율주행차가 사고 없이 얼마나 먼 길을 갈 수 있느냐가 아니라, 그 차가 얼마나 ‘적응성’이 있느냐다. 그녀의 말대로 오늘날의 반(半)자율주행차는 “극히 제한적인 조건하에서만 작동하며 이는 그 차가 다른 운전 환경이나 조건에서 어떻게 작동할지에 대해서는 아무것도 말해주지 않는다.” 이런 혼란, 즉 자율주행차가 이상적인 상황(맑은 날 한적한 국도)에서 기능하는 방식과 그들이 극단적인 상황에서 할 수 있는 일 사이의 혼란이 전체 업계에서 성공과 실패 사이의 차이를 만들 수 있다. 극단적인 조건에 주의를 기울이지 않고 까다로운 조건에서 성과를 보장하는 방법론에 크게 관심을 두지 않은 상태라면, 신뢰하기 힘든 자율주행차 구축 기술에 수십억 달러의 자금이 낭비되고 있을 가능성이 높다. 우리에게는 신뢰성의 가장 사소하고 작은 조각까지 충족시키는 전혀 다른 기술이 필요한 것일지도 모른다. 자동차는 하나의 예일 뿐이다.

지금의 AI 연구는 잘못된 길로 가고 있다

이와 같은 AI 캐즘을 극복하려면 위태로운 부분에 대한 명확한 의식, 기존 시스템이 그 일을 처리할 수 없는 이유에 대한 명확한 이해, 그리고 새로운 전략, 이 세 가지가 반드시 필요하다. 일자리, 안전, 사회구조의 측면에서 중대한 문제가 걸려 있기 때문에 독자들과 정책 결정권자들은 하루빨리 기술의 현실적인 상태를 이해해야 하며, 우리 모두가 AI에 대해 비판적으로 생각하는 방식을 배워야 한다. 현명한 시민이라면 통계를 이용해 사람들을 오도하는 것이 얼마나 손쉬운지 아는 일만큼이나 AI에 대한 과대 선전과 진실을 구분하고, 현재 AI가 할 수 있는 것과 할 수 없는 것을 파악하는 일도 중요하다.

결정적으로 AI는 마법이 아니다. AI는 일련의 엔지니어링 기법과 알고리즘에 불과하다. 그 기법과 알고리즘들은 각기 그만의 강점과 약점을 가지며, 어떤 문제에는 적합하나 다른 문제에 대해서는 그렇지 못하다. 우리가 이 책을 집필하게 된 가장 큰 이유 중 하나는 우리가 읽은 AI에 대한 논의들 대부분이 상상으로 그린, 따라서 기존의 기술적 역량에서는 전혀 얼토당토않은 AI의 장점만을 기반으로 하는 완벽한 ‘공상’이라는 인상을 주었기 때문이다. AI에 대한 대중적 논의의 대부분은 범용지능에 이르는 과정이 매우 어려운 일이라는 현실에 발을 딛고 있지 않았다.

확실히 해둘 것이 있다. 이런 모든 이야기를 밝히기 위해서는 비판적인 입장을 취할 수밖에 없지만, 우리는 AI 자체를 반대하는 입장은 아니다. 아니 오히려 AI를 좋아한다. 우리는 오랫동안 AI 연구에 몰두해왔고 AI가 발전하는 것을 가능한 한 빨리 보고 싶다. 간단히 말해 우리는 AI가 정말로 세상을 매우 중요한 방식으로 변화시키고 진정한 진보가 이루어지려면 많은 ‘기본적 가정’들이 변해야 한다고 믿는다. 이 책이 전하는 메시지는 이 분야의 셔터를 닫으라는 주장(그런 식으로 받아들이는 사람도 있겠지만)이 아니라, 막혀 있는 부분에 대한 진단이며 보다 낫게 만들 수 있는 방법에 대한 처방이다.



상식과 딥 언더스탠딩으로 가는 길



상식을 ‘코딩’하는 일의 어려움

사람들은 AI의 시초부터 상식의 문제에 대해 염려해왔다. ‘인공지능’이라는 말을 만든 존 매카시는 1959년 처음으로 이 문제에 대한 주의를 촉구하기 시작했다. 하지만 진전은 눈에 띄게 적었다. 클래식 AI (Classical AI)도 딥러닝도 큰 진보를 이루지 못했다. 추상적 지식을 통합시킬 직접적인 방법이 없는 딥러닝은 대개 그 문제를 외면했다. 클래식 AI는 여러 가지 접근법을 밀고 나가며 노력을 해봤지만 어떤 것도 특별히 성공적이진 못했다. 그중 한 가지 접근 방식은 웹을 돌아다니면서 일상적인 지식을 배우는 것이었다. 2011년 시작된 NELL(Never-Ending Language Learner)은 기계에게 상식을 가르치는 가장 광범위한 프로젝트로 머신러닝의 선구자 중 한 명인 톰 미첼 카네기멜론대학교 교수가 이끌고 있다. NELL은 매일(이 프로젝트는 지금도 진행 중이다) 웹에서 문서를 찾아 읽으며 특정 언어 패턴을 찾고 그것이 무엇을 의미하는지 추측한다. 예로 ‘뉴욕, 파리, 베를린과 같은 도시’라는 구절을 보면 NELL은 뉴욕, 파리, 베를린이 모두 도시라고 추론하고 이를 데이터베이스에 추가한다. 만약 ‘뉴욕 제츠(New York Jets)의 쿼터백 켈런 클레먼스’라는 구절을 보면 NELL은 켈런 클레먼스가 뉴욕 제츠에서 뛰고 있다는 사실(현재 시점에서 NELL은 시간 감각이 없다)과 그가 쿼터백이라는 사실을 유추할 수 있을 것이다. 기본 아이디어는 합리적이지만 결과는 그리 뛰어나지 못하다.

상식적인 지식을 수집하는 접근법으로 요즘 유행하는 또 다른 접근법은 ‘크라우드소싱’을 이용하는 것이다. 크라우드소싱이란 기본적으로 일반 사람들에게 도움을 청하는 것을 의미한다. 가장 눈에 띄는 프로젝트는 1999년부터 MIT 미디어랩에서 진행해온 콘셉트넷(ConceptNet)일 것이다. 자원자들은 이 프로젝트가 운영하는 웹사이트에서 영어로 단순한 상식적인 사실을 입력한다. 예로 한 참가자는 ‘밥은 감기에 걸렸다. 밥은 의사에게 갔다’라는 이야기의 이해와 관련이 있는 사실들을 제공하라는 요청을 받고 ‘감기에 걸린 사람들은 기침을 한다’, ‘약으로 아픈 사람에게 도움을 줄 수 있다’와 같은 사실들을 답으로 내놓는다(영어 문장은 이후 패턴 매칭 과정을 통해 자동으로 기계 코딩으로 전환된다). 이 경우도 아이디어는 타당해 보이지만 결과는 실망스러웠다.