블랙박스 사회

블랙박스 사회



프랭크 파스콸레 지음

안티고네 / 2016년 6월 / 344쪽 / 16,000원



평판 블랙박스 : 데이터 폭주 시대의 디지털 평판



“우리에게 다 털어놔 봐. 부끄러워하지 말고. 우리에게 더 많이 이야기할수록 우리가 더 많이 도와줄 수 있어.” 빅데이터가 노래한다. 정보 경제의 중심부에는 방대한 디지털 데이터를 축적함으로써 우리의 사생활까지 속속들이 파악하는 인터넷 기업과 금융 기업이 자리 잡고 있다. 그들은 데이터를 이용해 우리를 평가하고 우리 자신의 의사 결정에도 영향을 미친다. 하지만 우리는 그들에 대해 무엇을 알고 있는가? 대출자들은 신용등급이 떨어지면 더 많은 이자를 물어야 하지만 정작 자신의 신용 등급이 어떻게 산정되는지 알지 못한다.

에릭 슈미트(구글의 지주회사인 알파벳 회장)는 구글 사용자가 “내일은 무엇을 할까?” 또는 “나는 어떤 직업을 택해야 할까?”를 구글에 물어보길 바란다고 말했다. 사용자들은 일개 기업이 자신의 삶에 관한 사적인 정보를 보유한다는 것이 어떤 의미인지에 대해 거의 문제의식을 갖지 않았다. 사람들은 개인화와 데이터 포인트가 최적화된다면 빅데이터는 우리에게 최적의 삶을 설계해줄 거라 믿는다. 그것도 공짜로 말이다! 그러나 이것은 어디까지나 근거 없는 믿음이다. 빅데이터가 제공하는 할인 정보나 손쉬운 지름길 정보 하나하나마다 누군가의 보이지 않는 비용이 숨어있다고 봐야 한다. 당신의 데이터는 다른 사람들에게 큰 이익을 주는 대신 흔히 당신의 희생을 요구한다. 데이터가 혹시 잘못된 사람의 손에라도 들어가면 비싼 대가를 치를 수도 있다.

데이터 집약적인 광고는 경제활동에서 연간 1,500억 달러 이상의 수익을 창출한다. 지지자들은 이런 광고 덕분에 인터넷이 보다 개인적이고 사용자 친화적인 공간이 되어간다고 주장한다. 그러나 광고주와 투자자는 건강이나 행복을 얻자고 사업을 하는 게 아니다. 그들이 추구하는 것은 이익이다. 할인 광고를 클릭하면 아마 그 뒤에는 우리의 위치, 컴퓨터 사용 기종, 심지어 법정 기록 등을 기반으로 우리에게 얼마를 더 판매할 수 있을지를 계산하는 프로그램이 숨어있을 것이다. 모든 정보를 얻고자 관심을 갖는 것은 비단 국가안전보장국만이 아니다. 그건 마케터들의 목표이기도 하다. 그들은 우리에 대한 완전한 프로파일을 구성하기 위해 끝없이 데이터를 수집한다. 궁극적인 목적은 패턴 인식, 즉 과거의 행위를 점점이 이어서 미래를 예측하는 것이다. 당신은 가격 비교에 열심인 소비자인가, 아니면 돈을 몇 푼 더 내더라도 편하게 항공권이나 영화표를 구하려는 여유 있는 소비자인가? 기업은 이런 정보를 알고 싶어 하고, 꽤나 손쉽게 알아낼 수도 있다. 모든 기업은 이상적인 고객을 타깃으로 삼을 수 있는 정보의 우위를 원한다.

또한 기업들은 인건비가 가장 싸면서도 비용 대비 효용이 가장 좋은 종업원을 찾는다. 하여 우리의 온라인 데이터를 샅샅이 추적하여 근무 기록을 조사한다. 이런 데이터 분석 방법은 흔히 성과가 높은 사람에게 보상하고 태만한 직원은 문책하려는 용도로 만들어졌다. 그러나 실상은 그리 단순하지 않았다. 우리들 대부분은 자신의 프로파일이 작성되고 있다는 사실조차 모르고 있으며, 설령 알더라도 그 프로파일이 어떻게 사용되는지도 모른다.

항의나 수사 과정에서, 혹은 단순 유출 등으로 가끔 평판 분석이라는 블랙박스의 사례가 드러날 때마다, 맥락에도 없는 통제 불능의 데이터마이닝이 등장한다. 데이터 중개상은 결혼, 이혼, 주택 구입, 투표 및 기타 수천 가지의 사적, 공공 기록을 이용해 누구에 대해서든 유추가 가능하다. 정부가 이런 정보를 수집하는 행위는 법적으로 금지되어 있지만, 데이터 중개상은 아무런 제약을 받지 않는다. 또 그들이 수집한 정보를 정부에서 구매하는 데도 거의 제약이 없다. 그 결과 정부와 기업의 ‘데이터 감시’로 개개인의 삶에 대한 사적인 세부 정보 교환이 기하급수적으로 늘어나게 되었다. 미국의 허술하고 미약한 개인정보보호법은 이와 같이 걷잡을 수 없는 데이터의 위협에 맞설 힘이 없다. 따라서 그 데이터들은 개인을 평가, 분류, 감정하는 데 은밀히 사용되어 흔히 개인에게 부당한 피해를 입혔다. 사회 전반에서 공정한 데이터 활용에 힘을 기울이지 않으면 디지털 차별은 더 심해질 것이다.

완전공개의 미래: 그러나 한편으로 어디에나 적용 가능한 값싼 암호화 툴이 개발되어 누구나 절대적인 비밀주의를 추구할 수 있다면, 우리는 정말 그런 상태를 원할까? 나는 진짜 테러리스트의 음모도 파악하지 못하는 국가안전보장국은 원하지 않는다. 만약 누군가가 독화살을 실은 드론 부대를 구축한다면, 당국에서 미리 알고 대처하기를 바란다. 또 세무 당국으로부터 점점 많은 돈을 감추어 공공재정을 악화시키는 소위 ‘암호 통화’도 원하지 않는다. 또한 생물무기 감시 덕분에 공공 보건당국은 전염병이 출현하는 즉시 발견할 수 있다. 또한 모니터링은 우리가 교통, 에너지, 식량, 의약품의 흐름을 파악할 수 있도록 도와주기도 한다.

따라서 은폐는 감시에 대한 매력적이고 대칭적인 해결책으로 겉보기에는 유혹적일지 몰라도 성공할 가능성은 그리 높지 않다. 숨기는 능력과 숨기는 자를 감지하는 능력은 워낙 철저히 상업화되어, 오직 돈 많고 인맥 좋은 사람만이 그 게임에서 이길 수 있다. 정보 수집의 득과 실은 정보 자체보다 정보의 활용방식에 따라 결정된다. 정보를 어떻게 활용할지에 대한 결정은 우리의 우선순위를 고민할 때 시사하는 바가 많다. 작금의 디지털 경제는 생산성보다는 마케팅을 우선시한다. 더 좋은 쥐덫을 만드는 기업보다 쥐덫의 잠재적 구매자를 찾아내는 기업에 더 많은 돈이 몰린다. 이제 중요한 것은 쥐나 쥐덫이 아니라 데이터, 즉 예측과 통제 알고리즘(문제를 해결하기 위해 명령들로 구성된 일련의 순서화된 절차) 시스템에 끊임없이 흘러들어가는 수치들이다. 이 같은 경제에서 프로파일링(자료 수집)은 거대산업이 되었다.

이런 데이터의 흐름을 막을 수 없다면, 데이터 흐름의 배후에 있는 실체에 대해 더 많이 파악하여 그들의 데이터 사용을 통제할 방법을 배워야 한다. 기업과 정부가 우리에게 공개하는 수준만큼만 그들에게도 공개를 허용하고, 기업 및 정부 감사에 새로운 형태의 설명 책임을 보완해야 한다. 또 데이터의 공정한 이용과 부당한 이용을 규제하는 법을 시행해야 한다. 지나치게 취약계층만 겨냥하는 현재의 감시활동을 모두에게 평준화하고, 중대한 의사결정이 최대한 공정하고 비차별적인 방식으로 내려지도록 보장해야 한다. 한 두 번의 실수를 반복적인 실패로 몰아가는 판단들도 중단시켜야 한다.

정보 수집 자체를 막을 수는 없겠지만, 정보의 사용 방식을 규제할 수는 있다. 물론 이를 실천에 옮기기는 쉽지 않다. 고삐 풀린 데이터 수집 활동이 워낙 활개를 치고 있어, 부정확하고 불공정한 데이터가 넘쳐나는 평판 시스템을 정화하려면 상당한 시간과 노력이 소요될 것이다. 우리는 기술이 평판을 형성하는 방식에 대한 지독한 무관심에서 벗어나, 임의적이고 차별적이며 불공정한 알고리즘을 바로잡아 나가야 한다. 그런 제안이 어떤 영향을 미치고 얼마나 절실한지를 충분히 이해하려면, 우리는 평판의 기술에서 검색의 기술로 시선을 돌려야 한다.

검색 블랙박스 : 감춰진 로직



‘검색’ 하면 대부분의 사람들이 구글을 떠올리지만, 사실 검색은 훨씬 더 일반적인 개념이다. 정보나 오락거리, 상품이나 애인 등 무엇을 찾든, 우리는 점점 더 정적인 정보보다는 동적인 검색에 많이 의존하고 있다. 검색이 인터넷과 ‘현실세계’에 대한 우리의 생각에 미치는 영향은 점점 커지고 있다. 검색엔진은 하루에 수십억 건의 쿼리를 처리한다. 그러면서도 검색자가 다른 사이트를 클릭하도록 하지 않고도 점점 더 많은 쿼리에 대해 ‘답’을 내놓는다. 검색엔진은 우리의 온ㆍ오프라인상 친구들을 추적하기도 한다. 우리의 오락거리도 찾아낸다. 또 우리를 위해 영화, 병원, 호텔까지 모든 것을 평가하고 순위를 매긴다. 검색엔진에는 일반ㆍ전문ㆍ소셜 검색엔진 등이 있다. 규모도 천차만별이고, 공개된 엔진이 있는가 하면, 암호화된 엔진도 있다. 콘텐츠 보유량이 급증함에 따라 검색엔진도 점차 다양해지고 중요해졌다.

새로운 미디어의 지배자인 검색엔진은 단순히 편리한 도구에 그치지 않는다. 그 막강한 기능과 우리의 타성이 결합된 결과, 흔히 우리의 인식 범위를 결정짓기도 한다. 검색엔진은 안내자로서, 때때로 우리의 행동이나 생각, 구매 결정에 결정적인 영향을 준다. 검색 엔진은 혁명가이기도 해서, 애플과 아마존의 포털은 상업의 판도를 완전히 뒤바꿔놓았다. 검색엔진은 우리의 대리인으로서, 페이스북에서 여러 사람을 찾아 ‘친구’를 맺거나 트위터에서 지인을 팔로우 하면 해당 플랫폼이 지속적으로 관련 콘텐츠를 실어 나른다.

검색엔진은 평등주의자로서, 외부로부터 검색 당하는 사람이 입장을 바꿔 외부의 다른 모든 사람을 검색할 수 있게 해준다. 또 검색엔진은 우리 모두가 싫든 좋든 기여하고 있는 평판 데이터 풀에 접근하는 관문으로서, 가장 이상적으로는 우리가 고용주, 은행, 그 밖의 의사 결정자들이 지키고 선 운명의 갈림길에서 흔히 우리를 대신하는 ‘디지털 자아’를 관리할 수 있게 해준다.

검색과 통제: 통신 규제에서 가장 오래된 원칙 중 하나는 투명성이었다. 지금은 과거 그 어느 때보다도 투명성이 더 요구되는 시대다. 그럼에도 불구하고 즉각적이고 유동적인 앱과 검색엔진의 세계에서는 보이지 않는 곳에서 실제로 어떤 일이 벌어지는지를 파악하기가 훨씬 더 힘들다. 더욱이 빅데이터 거대기업들은 시간이 지날수록 지배력이 확고해지고 있다. 그들은 또한 정부에서도 권력을 얻어 제 잇속을 차리는 방식으로 규제에 입김을 가했다. 하지만 그렇다고 해서 마냥 손 놓고 구경만 할 수는 없는 노릇이다. 우리는 규제를 포기하기보다는 되살려야 한다. 인터넷서비스사업자의 주요 플랫폼은 당분간 우리 정보 환경의 주요 부문으로 군림할 것이다. 따라서 그들의 특수한 입지와 권한을 규제하는 규범의 필요성은 늘 존재했다. 적절히 설계된 규제 접근법은 상황을 규명하고 제어하는 데 큰 도움이 될 것이고, 그런 접근법이 없다면 상황은 점점 더 악화될 것이다.

디지털 뉴딜을 향하여: 1990년대 후반에, 기술의 열혈 지지자들은 검색엔진을 인터넷의 전례 없는 민주화로 여겼다. 검색엔진의 등장으로 전 세계의 콘텐츠 창작자들은 광범위한 사용자에게 도달할 수 있게 되었다. 웹2.0은 심지어 가상 커뮤니티를 스스로 구성할 수 있게 하여 진일보한 ‘민주화’를 지향했다. 그러나 최근 상업의 변화는 전혀 다른, 오히려 반대되는 결과를 보여준다. 혼잡한 온라인 세계를 명료하고 협력적으로 만들었던 바로 그 세력이 다시 모호한 마케팅, 불공정한 경쟁, 변화무쌍한 현실의 왜곡을 부추기고 있는 것이다.

이런 현실을 개혁하기 위한 첫 단계는 문제의 범위를 깨닫는 것이다. 저명한 인터넷 법규 전문 변호사이자 망 중립성의 개념적 설계자인 팀 우는 2010년에 『마스터 스위치』라는 책에서, 커뮤니케이션을 둘러싼 산업전쟁의 역사를 소개하면서 자신이 조사한 기업 전략의 공정성이나 부당성에 단호한 도덕적 판단을 덧붙였다. 팀 우는 애플이나 구글의 강압적인 민간 권력을 인정하면서도, 이제는 그 권력이 규범으로 통제되고 있다고 결론을 내렸다. “이제 주력 사업을 넘어서 정보 산업 전체를 지배하려는 의도와 권리를 당당히 내세우는 기업은 드물다” 그러나 그의 말은 집필 당시에는 진실이었을지 몰라도 지금은 시대에 뒤쳐진 소리가 되었다.

현재 구글은 소셜 네트워크와 군사 로봇 회사로 계속 확장해가기를 꿈꾸고 있다. 페이스북은 단순한 소셜 네트워크가 아니라 온라인 미디어 상의 킹메이커가 되었다. 아마존은 역시 산업을 하나씩 무너뜨리고 있다. 소수의 재능 있고 무자비한 행운아들이 새로운 인터넷 기술이 창출하는 수익의 대부분을 독차지했다. 그들은 자신들의 방법론을 철저히 독점하면서 다른 사람들이 힘들여 만든 공개 콘텐츠를 이용해 막대한 수익을 챙겼다. 그리고 매우 일찍부터 개인적 치부를 공익활동으로 포장해왔다.

이제는 이 시대의 본질과 스타일을 진보적인 기술의 정치경제로 되돌릴 때가 왔다. 미국의 경제학자이자 교육가였던 로버트 리 헤일은 20세기 상반기에 당대의 지배적인 기업들을 연구했다. 그는 이 기업들의 영향력이 도처에 만연한 것을 깨닫고는, 개인의 자유가 책임감 있는 기업들의 행동에 달려 있다고 주장했다. 그의 이론은 1930년대 경제적 파국에 직면한 루스벨트 정부의 자문 그룹에 영향을 끼쳤다. 헤일과 팀 우 두 사람 모두 거대 기업의 ‘강압적인 민간 권력’을 분석했다. 그러나 헤일의 『법을 통한 자유』와 팀 우의 『마스터 스위치』 사이에는 큰 차이점이 있었고, 그 차이는 지난 60년에 걸친 미국 정치 풍토의 변화에 대해 많은 것을 시사했다.

헤일의 연구는 임의적이고 착취적인 기업 관행을 민주적으로 억제하려는 노력이 점진적인 승리를 거둔 과정을 연대순으로 기록했다. 헤일은 “공동체의 바람직한 부 분배 방식을 결정하는 원칙”을 논하며, 20세기 중반의 요금 제정 및 과세 관련 판례법을 상세하게 파헤쳤다. 그는 또한 기술 변화의 시대에 “승자 독식을 피하려면” 정부가 단지 “중립적 제3자”로서 한가롭게 물러나 있어서는 안 된다고 강조했다. 만약 정부가 나서지 않는다면, 경제에 개입하여 경제를 좌지우지하려는 -금융 등의- 다른 세력들이 활개를 친다. 그리고 현재 우리는 그 결과를 목격하고 있다. 많은 사람들이 독점적이고 교활한 행위에 질려, 한때 자신들이 우러러보았던 분야를 경계하게 되었다.

검색 기업이 부당 이득을 챙기는 이유는 투자자의 요구를 충족시키기 위해서다. 검색 기업은 사람을 평가하여 등급을 매기는 평판 기업들을 평가하여 순위를 매겼다. 하지만 그런 검색 기업들도 월스트리트의 기업 평가에 촉각을 곤두세워야 한다. 투자자들이 계속해서 그들의 지배력이 유지되리라고 믿지 않는 한, 경쟁사들을 집어삼킬 수 없기 때문이다. 인터넷 기업의 불투명한 순위 책정 메커니즘이 모든 사람에게 현재의 입지를 잃을지 모른다는 경계심과 우려를 심어주었듯이, 금융의 불투명한 측면은 대표적인 인터넷 기업을 항시적인 긴장 상태로 몰아넣었다. 따라서 우리가 이제부터 주목할 부문은 신정치경제의 최종적이고 가장 강력한 부문, 바로 금융이다.

금융 블랙박스 : 황제의 새 코드



2004년에 카토 연구소는 페루의 경제학자 에르난도 데 소토에게 ‘자유 증진을 위한 밀턴 프리먼 상’과 상금 50만 달러를 수여했다. 공산당의 두 차례 암살 시도에도 불구하고, 데 소토는 지칠 줄 모르고 페루 빈민을 위한 시장 해결책을 설파했다. 미국의 번영이 탄탄한 금융시장과 사유재산 보호 덕분이라는 그의 메시지는 미국 지도자들의 열렬한 환영을 받았다. 하지만 2011년에 이르자, 데 소토는 미국의 경제시스템을 맹비난하였다. 그는 미국발 금융 위기가 “소유자와 대출자”에 대한 “지식이 믿기 어려울 정도로 결여된” 미국의 현실을 여실히 드러냈다고 주장했다. 미국이 페루 같은 나라에 수출해온 ‘공공 기억 체계(등기, 소유권 증서, 대차대조표 등)’가 정작 미국 내에서는 완전히 신뢰를 잃었다는 것이다. 담당자의 무능과 위법행위로 재산 기록은 불확실해졌다. 수십억 달러짜리 계약들의 조건은 수면 아래로 감추어졌다. 미국 금융의 유리빌딩과 컴퓨터망 뒤에는 금방이라도 무너질 듯한 금융 기업과 나날이 약해지는 준법 의식이 숨어있었다.

데 소토가 감지한 트렌드는 오늘날까지도 지속되고 있었다. 금융업계 내부자들은 당사자들이 인지하지 못하는 방식으로 투자자와 납세자에게 위험을 전가하는 계약을 체결하면서 자신들 몫으로 막대한 수수료와 보너스를 챙겼다. 리스크를 감추는 전략은 분식 회계부터 내부 평가 모델까지 다양했다. 모기지 브로커부터 CEO까지 많은 금융권 종사자들이 이익을 창출하기 위해 불투명한 복잡성에 의존했다. 그러나 대부분의 불투명성은 당연한 것도, 불가피한 것도 아니었다. 수많은 중요한 거래가 불투명하게 이뤄지는 이유는 특권을 가진 내부자들이 자신의 고객이나, 규제기관 및 리스크 관리자보다 우월한 입지를 점하기 위해서였다.